목요일에 조 바이든 대통령은 회의를 열다 Google, Microsoft, OpenAI, Anthropic 등 선도적인 AI 기업의 CEO와 함께 백악관에서 AI 제품의 배포 전 안전 보장의 중요성을 강조했습니다. 회의에서 Biden은 경영진에게 AI가 제기하는 위험을 해결하도록 촉구했습니다. 그러나 일부 AI 전문가들은 수년간 AI의 위험성을 경고해 온 윤리학자들이 배제된 점을 비판했다.
지난 몇 달 동안 ChatGPT와 같은 생성 AI 모델은 인기를 얻었다 강렬한 기술 과대 광고를 모아 회사가 유사한 제품을 빠른 속도로 개발하도록 유도했습니다.
하지만 이에 대한 우려가 커지고 있다. 잠재적인 개인 정보 보호 문제고용 편향 및 이를 사용하여 잘못된 정보 캠페인. 백악관에 따르면 행정부는 경영진과의 “솔직하고 건설적인 논의”에서 더 큰 투명성, 안전 평가 및 악의적인 공격에 대한 보호를 요구했습니다.
회의의 가장 유명한 참석자에는 Google의 Sundar Pichai, Microsoft의 Satya Nadella, OpenAI의 Sam Altman 및 Anthropic의 Dario Amodei가 포함되었습니다.
Kamala Harris 부통령이 회의를 주재했으며 Biden이 “들르는”비디오에서 트위터에 게시대통령은 “고마움을 전하기 위해 들렀습니다. 당신이 하고 있는 일은 엄청난 잠재력과 엄청난 위험을 가지고 있습니다. 당신이 그것을 이해하고 있다는 것을 알고 있습니다. 그리고 당신이 보호하기 위해 가장 필요하다고 생각하는 것에 대해 우리를 교육할 수 있기를 바랍니다. 사회뿐만 아니라 발전에도 정말 중요합니다.”
지난 가을, Biden 행정부는 “AI 권리 장전“는 편견, 차별, 프라이버시 문제를 포함한 자동화 시스템의 해로운 영향으로부터 미국인을 보호하는 것을 목표로 합니다.
AI 윤리 연구자들의 반응
바이든의 초청이 뜨거운 정책 주제에 대한 경영진의 관심을 보인 가운데 초청기업 평론가들은 윤리적 실적 많은 사람들과 함께 회의에 감동하지 않았습니다. 선택에 의문을 제기 그들은 백악관이 해결하고자 하는 AI 관련 문제를 만든 회사를 대표한다고 주장하는 사람들을 회의에 초대합니다.
Twitter에서 AI 연구원 Dr. Timnit Gebru 썼다“우리는 여러 의원 및 기관과 이야기하는 데 시간의 절반을 보내는 것 같지만 여전히 이런 문제가 있습니다. 우리에게 문제를 제기하고 위험에 대해 이야기했다는 이유로 우리를 해고한 친구들로 가득 찬 방은 빌어먹을 대통령이 부른 것입니다. ‘사람들의 권리를 보호하기 위해.'”
2020년 Google은 대규모 언어 모델의 잠재적 위험과 편향을 강조한 그녀가 공동 집필한 연구 논문에 대한 분쟁으로 Gebru을 해고했습니다. 사건 토론을 촉발 AI 윤리에 대한 Google의 약속에 대해 AI 연구 커뮤니티 내에서.
마찬가지로 옥스퍼드 대학교 AI 윤리 연구원 Elizabeth Renieris는 트윗“안타깝게도 POTUS를 존경하는 마음으로 #AI와 관련하여 “사회를 보호하는 데 가장 필요한 것”이 무엇인지 말할 수 있는 사람들이 아닙니다.”
비판은 종종 “AI 안전”(AI의 가상적인 실존적 위험과 주로 관련된 느슨한 움직임, 공개적으로 관련된 OpenAI 직원) 및 “AI 윤리”(연구자 그룹 크게 우려 편견과 잘못된 정보를 포함하여 현재 AI 시스템의 오용 및 영향에 대해).
이러한 맥락에서 저자 Dr. Brandeis Marshall은 제안 다음을 포함하는 백악관 회의에 대한 “반대 회의” 조직 포옹하는 얼굴, 분산 AI 연구소, UCLA 크리티컬 인터넷 문의 센터그리고 알고리즘 저스티스 리그.
또한 목요일에는 백악관 발표 국립과학재단(National Science Foundation)을 통해 7개의 AI 연구 기관을 설립하기 위한 1억 4천만 달러 투자. 또한 Anthropic, Google, Hugging Face, Nvidia, OpenAI 및 Stability AI는 AI 시스템에 대한 공개 평가에 참여할 예정입니다. 데프콘 31.
백악관 회의 후 Harris는 성명 “민간 부문은 제품의 안전과 보안을 보장할 윤리적, 도덕적, 법적 책임이 있습니다. 그리고 모든 기업은 미국 국민을 보호하기 위해 기존 법률을 준수해야 합니다. 앞으로 몇 주.”
