Anthropic은 챗봇 클로드의 행동 방식을 설계하기 위해 신학자와 윤리학자들에게 자문을 구해 왔으며, 교황 레오 14세는 artificial intelligence threatens 인간의 존엄을 위협한다고 경고하고 있다.
핵심 요점:
- 앤트로픽은 3월 말 샌프란시스코 본사로 약 15명의 종교 사상가를 초청해 클로드의 도덕적 틀에 대해 논의했다.
- 이 세션의 목적은 모델이 사용자에게 응답하는 방식을 이끄는, 문서화된 원칙인 클로드의 ‘헌법’을 다듬는 것이다.
- 5월 25일 발표된 교황 레오 14세의 첫 회칙은 AI를 무장 해제하고 인간의 존엄에 종속시키라고 촉구한다.
앤트로픽, 종교 학자들을 영입하다
약 15명의 종교 사상가들이 3월 말 샌프란시스코에 있는 회사 사무실에서 met을 가졌다. 이들은 이제 AI 업계를 분열시키고 있는 질문, 즉 단순한 규칙으로는 모든 경우를 다룰 수 없게 된 상황에서 챗봇에게 어떻게 ‘선’을 가르칠 것인가를 논의하기 위해 모였다.
초대장은 이메일이나 지인의 소개 등 다양한 경로를 통해 전해졌다. 각 초청자는 클로드와, 그 답변 방식을 이끌도록 설계된 도덕적 틀에 관한 일련의 대화에 참여했다. 목표는 모델을 경건하게 만드는 것이 아니라, 오랜 세월 축적된 종교적 도덕 사유를 끌어와 옳고 그름을 가르는 기준으로 삼는 것이었다.
이런 사유는 앤트로픽이 클로드의 ‘헌법’이라 부르는 것, 즉 회사가 슬픔에서 임종 돌봄에 이르기까지 다양한 주제에 대한 모델의 응답 방식을 설계할 때 활용하는 문서화된 원칙 집합으로 이어진다. 회사는 고정된 금지 목록을 따르게 하기보다, 클로드가 그 원칙에 비추어 스스로의 답변을 비판하고 수정하도록 훈련한다.
또한 읽기: Traders Now Give Fable 5 74% Shot At Returning By Mid-July
전문가들, 클로드의 도덕적 틀에 의문을 제기하다
산타클라라대학교의 기술 윤리학자 브라이언 패트릭 그린은 연구소의 커지는 영향력이 내부의 지혜를 앞지르기 시작했다고 말했다. 자문 단체 AI and Faith를 이끄는 그렉 쿠트소나는, 직원들이 이제는 스스로 답을 내리기에는 질문이 너무 커졌다고 인정했던 것을 회상했다. 4월 말 세션은 유대교, 힌두교, 시크교, 몰몬교, 그리스 정교회의 목소리를 포함하도록 범위를 broadened했다.
모든 학자가 이런 접근이 더 근본적인 문제, 즉 누가 이러한 회사들에 책임을 묻는가를 해결한다고 보지는 않는다. 옥스퍼드대학교 윤리학자 카리사 벨리즈는 명시된 의도가 상업적 모델이 만들어내는 인센티브보다 더 중요하다고 볼 수 있는지 의문을 제기했다.
그녀는 기술을 둘러싼 종교적 언어가 이성적 논의에 저항하는 집단적 충성을 낳을 수 있다고 경고했다. 비판자들은 이런 외연 확장을 ‘윤리 세탁’으로 치부하며, 도덕적 신뢰를 차용하려는 시도라고 본다. 그린은 어떤 가식도 곧바로 간파될 것이며 회복하기 어려운 신뢰 손실로 이어질 것이라고 반박했다.
교황 레오 14세는 5월 25일, 약 4만 단어 분량의 첫 회칙을 published했는데, 이 문서에서 AI를 무장 해제하고 인간의 존엄에 종속시킬 것을 촉구했다. 앤트로픽 공동 창업자 크리스토퍼 올라는 수개월간 이어진 종교 지도자 대상 소통의 연장선으로, 바티칸 발표 행사에 attended했다.
다음 읽기: SpaceX Hits $2.94T Valuation After Passing Amazon And Microsoft