9일 워싱턴포스트(WP)는 미국 실리콘밸리에서 AI가 우리 모두를 죽일 것이라는 주장과 이 기술이 올바르게 사용된다면 인류가 번영할 수 있는 힘을 줄 것이라는 서로 반대되는 주장이 나오고 있다고 보도했다.

지난달 미국의 비영리단체 '삶의 미래 연구소'(FLI)는 일론 머스크 테슬라 최고경영자(CEO) 등이 AI가 인류에 심각한 위험성을 미칠 수 있다며 최첨단 AI시스템의 개발을 일시 중단하자는데 서명한 공개서한을 내놨다.

그러나 일각에서는 머스크가 자체 AI 개발을 위한 시간을 벌려고 이런 제안을 했다는 지적도 나온다.

AI 안전성이란 AI 시스템이 프로그래머의 의도에 복종하고 인간을 해치지 않으면서 권력을 추구하지 않도록 막는 새로운 연구 분야를 말한다.

이는 실리콘밸리에서는 효율적 이타주의(EA, effective altruism)와 밀접한 관련이 있다.

효율적 이타주의는 이성과 증거를 통해 다른 사람들에게 이익이 되는 방법을 찾고 그런 생각으로 행동하는 것을 옹호하는 운동을 말하는데, AI 윤리와 관련해서는 AI가 인간을 멸종시키는 것을 막는 것이 시급하다는 주장으로 귀결된다.

페이스북의 공동 창업자 더스틴 모스코비츠와 전 헤지펀드 매니저 홀든 카노프스키가 설립한 재단 '오픈 필란트로피'와 같은 효율적 이타주의 관련 단체들은 최근 몇 년간 AI 안전성에 초점을 맞춘 여러 센터와 연구소, 커뮤니티 건설을 지원해왔다.

이 밖에도 붕괴한 대형 가상화폐 거래소 FTX의 샘 뱅크먼 프리드가 세운 FTX 퓨처 펀드 역시 대표적인 효율적 이타주의 관련 단체였다.

AI의 옹호자들은 오픈AI와 구글의 딥마인드로 대표된다.

이들은 AI 안전을 신경 쓰지 않는 것이 아니라, 인간만큼 똑똑한 범용인공지능(AGI)에 도달하는 소프트웨어를 구축하는 것에 매우 흥분해있는 것뿐이라고 WP는 진단했다.

몇몇은 오픈 AI의 GPT-4와 같은 도구가 기술 발전이 AGI로 가는 길에 있다는 뜻이라고 말하지만, 대부분의 전문가는 이러한 도구가 텍스트 뒤에 숨겨진 의미를 인간처럼 이해하지 못한다고 설명한다.

사티아 나델라 MS CEO와 순다르 피차이 구글 CEO 등이 인터뷰에서 AGI에 대해 언급하고 빌 게이츠도 블로그에 이에 대해 썼다.

샘 알트먼 오픈AI CEO는 "AGI의 긍정적인 측면이 너무 크기 때문에 사회가 그 발전을 영원히 멈추는 것이 가능하지도 바람직하지도 않다"고 말했다.

반면 AI 종말론자들은 충분하게 강력한 AI가 연결되면 인류가 멸망할 것이라는 결론을 내린다.

미국의 작가이자 비영리단체 기계 지능 연구소(MIRI) 엘리저 유드코프스키가 이 진영을 대표한다.

그는 최근 타임지에 전 세계적으로 AI 개발이 중단돼야 하며 만약 필요하다면 해외 데이터 센터에 미국이 공습해야 한다고까지주장했다.

옹호론·종말론자 외에 수년간 인종·성차별주의적이거나 가짜 뉴스로 정보 생태계를 파괴할 수 있는 AI 모델의 문제점에 대해 경고해온 AI 윤리주의자들도 있다.

이 진영의 일부는 AI 기술이 피할 수 없는 것이 아니며 취약한 공동체에 해를 끼치지 않고 개발될 수 있다고 주장한다.

팀닛 게브루 전 구글 AI 윤리팀 기술책임자가 진영의 대표적 인물이다. 게브루는 거대 언어모델(LLM)의 폐해를 경고하는 논문의 공동 저자이기도 하다.

MS와 트위치, 트위터 등 빅테크(거대 정보기술기업)들은 AI 윤리팀 직원을 해고하고 있으나 정책입안자들과 대중은 AI 윤리주의자들의 목소리에 귀를 기울이고 있다고 WP는 전했다.

이 같은 논쟁이 계속되는 가운데 오픈AI에 총 130억달러(약 17조원)를 투자한 MS가 이를 통해 수십억달러의 연간 수익을 낼 수 있다는 전망이 나왔다고 미 CNBC 방송이 보도했다.

오픈AI의 기업 가치가 290억달러(약 38조원)에 달하는 것으로 추산되는데, MS는 오픈AI의 기술을 빙 검색엔진과 기업용 소프트웨어, 깃허브, 오피스 365와 애저 클라우드 등에 통합하고 있다.

웰스파고의 마이클 터린 애널리스트는 이 같은 통합 작업으로 MS가 연간 300억달러(39조 6천억원)의 신규 매출을 추가할 수 있다고 분석했다.

MS의 오픈AI 인수나 기업공개(IPO) 가능성도 조심스럽게 제기된다.

다만 MS가 오픈AI를 인수할 경우에는 반독점 규제 당국의 조사를 받을 가능성이 높다.

시장조사업체 피치북 데이터에 따르면 오픈AI는 올해 작년보다 150% 증가한 2억달러(2천600억원), 내년에는 40% 증가한 1억달러(1천300억원)의 매출을 기록할 것으로 예상됐다.

다만 오픈AI 대변인은 CNBC에 인수나 IPO 가능성은 없다고 말했다.