2024 AI 책임 보고서 발표

2년 전, 우리는 AI를 발전시켜 사회에 이익을 주고 혁신을 촉발하겠다는 비전을 공유했습니다. 몇 주 전, 우리는 2024년 업데이트를 발표하며 우리가 이룬 성과를 보여주었습니다. 창의성을 높이는 최첨단 모델부터 생물학, 건강 연구, 신경과학에서 AI 주도의 돌파구에 이르기까지, 우리는 파장을 일으키고 있습니다.

하지만 AI로 과감하게 나아가는 것은 처음부터 책임감을 갖는 것을 의미합니다. 그래서 우리의 AI 접근 방식은 항상 사람들에게 미치는 광범위한 영향을 이해하고 해결하는 것이었습니다. 2018년에 우리는 AI 원칙을 처음으로 제시한 선구자 중 하나였으며, 2019년부터 매년 투명성 보고서를 발표해 왔습니다. 우리는 시대에 발맞춰 정책, 관행, 프레임워크를 계속 조정하고 있습니다.

2024년 책임 있는 AI 발전 보고서

우리의 여섯 번째 연례 책임 있는 AI 발전 보고서는 개발 과정 전반에 걸쳐 AI 위험을 어떻게 다루는지 자세히 다룹니다. 이는 지난 1년 동안 AI 제품 출시에 대한 거버넌스 구조를 설정하며 이룬 진전을 보여줍니다.

우리는 사람과 사회를 돕는 AI 연구와 제품, 그리고 AI 안전과 잠재적 위험 파악에 그 어느 때보다 많은 자원을 투입하고 있습니다.

작년 보고서는 책임과 안전에 관한 우리 팀의 300개 이상의 연구 논문, AI 정책 업데이트, 레드 팀 테스트와 안전, 개인정보 보호, 보안 벤치마크에 대한 평가에서 얻은 교훈을 강조했습니다. 우리는 다양한 AI 출시에서 위험 완화에 진전을 이루었으며, 더 나은 안전 튜닝과 필터, 보안 및 개인정보 보호 제어, 제품에 출처 기술 사용, 그리고 광범위한 AI 리터러시를 추진했습니다. 2024년 내내 우리는 보고서에 자세히 나와 있듯이 자금, 도구, 표준 개발로 더 넓은 AI 커뮤니티를 지원했습니다.

프론티어 안전 프레임워크 업데이트

AI가 계속 진화함에 따라 새로운 기능은 새로운 위험을 가져올 수 있습니다. 그래서 우리는 지난해 강력한 프론티어 AI 모델의 잠재적 위험을 관리하기 위한 프로토콜 세트인 프론티어 안전 프레임워크의 첫 번째 버전을 발표했습니다. 우리는 업계, 학계, 정부의 전문가들과 협력하여 이러한 위험을 더 잘 이해하고, 테스트 방법과 완화 방법을 알아내고 있습니다.

우리는 또한 Gemini 2.0과 같은 프론티어 모델 평가를 위해 Google DeepMind 안전 및 거버넌스 프로세스에 이 프레임워크를 적용했습니다. 오늘 우리는 업데이트된 프론티어 안전 프레임워크를 발표하며, 다음을 포함합니다:

• 강화된 보안 권장 사항: 데이터 유출 방지를 위해 노력을 강화해야 할 곳을 정확히 지적.
• 배포 완화 절차: 중요한 시스템 기능의 오용 방지에 초점.
• 기만적 정렬 위험: 자율 시스템이 인간의 통제를 의도적으로 약화시킬 위험 대처.

이에 대해 Google DeepMind 블로그에서 더 자세히 알아볼 수 있습니다.

AI 원칙 업데이트

2018년에 AI 원칙을 처음 발표한 이후, AI 기술은 빠른 속도로 발전해 왔습니다. 이제 수십억 명이 일상에서 AI를 사용하고 있습니다. 이는 수많은 조직과 개인이 앱을 개발하는 데 사용하는 주요 기술, 플랫폼이 되었습니다. AI는 틈새 연구실 주제에서 휴대폰과 인터넷처럼 광범위하게 퍼진 기술로 변모했으며, 개발자들의 활발한 AI 생태계에 힘입어 전 세계 사람들과 사회에 유익한 수많은 용도를 제공합니다.

공통의 기본 원칙을 갖는 것은 이러한 진화에 핵심입니다. AI 기업과 학계뿐만 아니라, 전 세계적으로 AI 원칙에 대한 진전이 이루어지고 있습니다. G7, 국제표준화기구, 다양한 민주국가들은 AI의 안전한 개발과 사용을 안내하는 프레임워크를 발표했습니다. 점점 더 많은 조직과 정부가 이러한 공통 표준을 사용해 이 진화하는 기술을 구축, 규제, 배포하는 방법을 알아내고 있습니다. 예를 들어, 우리의 책임 있는 AI 발전 보고서는 이제 미국의 NIST 위험 관리 프레임워크를 따릅니다. 수년간의 경험과 연구, 그리고 다른 AI 기업들과 공유한 위협 정보, 전문 지식, 모범 사례는 AI의 잠재력과 위험에 대한 더 깊은 이해를 제공했습니다.

점점 복잡해지는 지정학적 환경에서 AI 리더십을 위한 글로벌 경쟁이 있습니다. 우리는 민주주의 국가들이 자유, 평등, 인권 존중과 같은 핵심 가치를 바탕으로 AI 개발을 주도해야 한다고 믿습니다. 그리고 우리는 이러한 가치를 공유하는 기업, 정부, 조직들이 협력하여 사람을 보호하고, 글로벌 성장을 촉진하며, 국가 안보를 지원하는 AI를 만들어야 한다고 생각합니다.

이를 염두에 두고, 우리는 AI 원칙을 세 가지 핵심 원칙에 초점을 맞춰 업데이트하고 있습니다:

• 대담한 혁신: 거의 모든 분야에서 사람들을 돕고, 힘을 주고, 영감을 주며, 경제적 진보를 이끌고, 삶을 개선하고, 과학적 돌파구를 가능하게 하며, 인류의 가장 큰 도전을 해결하기 위해 AI를 개발.
• 책임 있는 개발 및 배포: 우리는 AI가 새로운 복잡성과 위험을 가져오는 변혁적 기술임을 이해합니다. 그래서 우리는 디자인에서 테스트, 배포, 반복에 이르는 개발 및 배포 전반에 걸쳐 책임 있게 AI를 추구하기 위해 헌신합니다.
• 협력적 진전: 우리는 다른 이들로부터 배우고, AI를 긍정적으로 사용할 수 있도록 타인을 지원하는 기술을 구축.

전체 AI 원칙은 AI.google에서 확인할 수 있습니다.

AI 원칙에 따라, 우리는 우리의 사명, 과학적 초점, 전문 분야와 일치하며, 국제법과 인권의 널리 받아들여지는 원칙과 일관된 AI 연구 및 응용에 계속 집중할 것입니다. 특정 작업의 이점이 잠재적 위험을 상당히 초월하는지 신중히 평가하며, 우리의 참여가 맞춤형 연구 개발을 필요로 하는지, 아니면 일반적으로 널리 사용 가능한 기술에 의존할 수 있는지 고려할 것입니다. 이러한 평가는 의료, 과학, 로봇공학, 사이버 보안, 교통, 국가 안보, 에너지, 기후 등 다양한 분야에서 수많은 조직과 정부가 AI를 개발함에 따라 점점 더 중요해지고 있습니다.

물론, 원칙 외에도 우리는 불법적인 서비스 사용과 같은 금지 사항을 포함하는 구체적인 제품 정책과 명확한 사용 약관을 계속 유지합니다.

앞으로의 기회

우리는 기본 기술과 AI의 발전, 배포, 사용에 대한 논의가 얼마나 빠르게 진화할지 알고 있으며, 시간이 지나면서 배우는 대로 우리의 접근 방식을 계속 적응하고 개선할 것입니다.

특히 AGI가 점점 더 명확해지면서, 사회적 영향은 매우 심오해집니다. 이는 단순히 강력한 AI를 개발하는 것이 아니라, 인류 역사상 가장 변혁적인 기술을 구축하고, 이를 인류의 가장 큰 도전을 해결하는 데 사용하며, 세계의 이익을 위해 적절한 안전 장치와 거버넌스가 마련되도록 하는 것입니다. 우리는 이 여정에 대한 우리의 진전과 발견을 계속 공유할 것이며, AGI에 가까워질수록 우리의 사고를 계속 진화시킬 것으로 기대합니다.

앞으로 나아가면서, 우리는 지난 1년 동안 거버넌스 및 기타 프로세스에서 이룬 개선, 새로운 프론티어 안전 프레임워크, 그리고 AI 원칙이 AI 변혁의 다음 단계에 우리를 잘 위치시킨다고 믿습니다. AI가 전 세계 사람들의 삶을 돕고 개선할 수 있는 기회는 우리가 이 일을 하는 궁극적인 원동력이며, 우리는 대담하고 책임감 있고 협력적인 AI 접근 방식을 계속 추구할 것입니다.