백악관, 오픈AI 등 7대 기업에 인공지능 안전성 확보 요청

미국 백악관은 21일(미국시간), AI 위험을 관리하기 위한 노력으로 아마존, 앤스ropic, 구글, Inflection, 메타, 마이크로소프트, OpenAI 등 7개 AI 대기업을 백악관으로 소집하고 이들 기업이 AI 개발에 있어 안전성/보안/신뢰성을 중시하고 자체적인 책임하에 AI의 안전한 개발을 추진해 줄 것을 요청했다고 밝혔다.

 

[AI 대기업 7개사에 요구한 내용]

 

- 제품 출시 전 AI에 대한 보안 테스트 실시
- AI 리스크 관리에 관한 정보를 업계 전체 및 정부/시민사회/학술계와 공유
- 자체 모델 등을 보호하기 위해 사이버 보안 및 내부 위협 보호에 대한 투자
- 서드파티에 의한 AI 취약성 발견과 보고
- 워터마크 등 AI에 의해 생성된 것임을 사용자가 확인할 수 있는 기술 메커니즘 개발
- 자사 AI의 기능, 제한, 적절한 사용 영역과 부적절한 사용 영역의 공적 보고
- 편견이나 차별 회피, 프라이버시 보호 등 AI가 일으킬 수 있는 사회적 위험에 관한 연구
- 사회의 최대 과제에 대처하기 위한 고도의 AI 개발과 도입 등

 

출처 - https://raptor-hw.net/xe/news/200061