AI는 원자폭탄.. AI가 지배하면 샌프란처럼 될까?

2023-05-08

AI는 원자폭탄.. AI가 지배하면 샌프란처럼 될까?

  • 워렌 버핏 "AI는 원자폭탄 같아"
  • "우리는 AI를 반드시 규제해야 한다"
  • AI가 지배하면 SF처럼 될까? 

뷰스레터 구독자 여러분 안녕하세요. 손재권입니다.

지난 주말 미 오마하에서 열린 버크셔 해서웨이의 2023년 연례 주주총회.
더밀크는 '자본주의의 축제'로 불리는 버크셔의 주주총회를 매년 취재하고 있습니다. 지난해는 오마하에 직접 가서 투자의 '위즈덤 콘서트'인 주총 현장을 전달했습니다.

버핏 회장과 찰리 멍거 부회장은 올해 각각 92세와 99세 입니다. 매년 "둘이 함께 하는 주총은 올해가 마지막일지 모른다"며 전세계 투자자들을 '오마하'로 몰려들게 하고 있는데요. 다행히 올해도 버핏 회장과 멍거 부회장은 주총장에 나란히 앉아 '정정하게' 대화를 나눴습니다. 5시간 넘게 투자 철학과 경제 상황을 분석하고 소신을 밝히고 비판하는 '전설'에 고개가 절로 숙여집니다.

올 버크셔 주총을 지켜보다 깜짝 놀란 장면이 있었습니다. 워런 버핏 회장이 인공지능(AI) 기술에 대한 질문을 받고 대답하는 과정에서 AI를 '원자폭탄(atom bomb)'에 비유한 것입니다. 그는 "어떤것이 무슨 일이든 다 할 수 있다고 한다면 걱정이 된다. 이 기술의 발명은 이젠 되돌릴 수 없다. 알다시피 원자폭탄도 사실 아주 좋은 의도로 만들어졌다"며 인공지능을 원자폭탄과 같은 위험한 기술이라고 평가했습니다. 처음앤 '인류의 에너지'를 위한 기술로 개발됐지만 '폭탄'으로 쓰이면서 대량 살상도구가 됐기 때문입니다.

AI도 인류에 도움이 될 것으로 인식되고 있지만 자칫 잘못하다가는 돌이킬 수 없는 '위협'이 될 수 있다는 것입니다. 제프리 힌튼 교수가 구글을 떠나면서 인공지능의 위험성을 알리겠다고 한 것이나 윤송이 NC소프트 사장이 더밀크에 특별 기고에서 "챗GPT, 서양식 사고∙행동 전파하는 ‘디지털 식민주의’ 우려 있다"고 한 내용과 일맥상통 합니다. 

워런 버핏 "AI는 원자폭탄 같아" 

 지난 6일(현지시간) 미 오마하에서 열린 버크셔 해서웨이 주총에서 워런 버핏(왼쪽) 회장과 찰리 멍거 부회장이 질문에 답변하고 있다 (사진/ CNBC 캡쳐)

버크셔는 미국 산업의 대표적이고 중추적인 기업들의 지주사이자 투자 회사입니다. 그만큼 미국 경제와 시장을 그대로 반영한다고 평가받고 있습니다. 지난 2월 내놓은 '투자자 레터'에서도 위기를 돌파하는 5가지 투자 원칙으로 정리할 수 있는 내용을 제시, 화제가 됐었죠.

버크셔의 이번 1분기 실적은 현재 미국 기업들이 겪고 있는 문제와 실상을 그대로 드러냈다고 해도 부족하지 않았습니다. 워런 버핏은 높은 금리도 효과적으로 이용했습니다. 버크셔는 1306억 달러의 현금 대부분을 단기 국채와 현금성 예금 자산에 투자하면서 1년 전 1억 6400만 달러에 달하던 수익을 무려 11억 달러로 불리는 놀라운 실적을 만들어 냈습니다. 또 버핏 회장은 최근 은행 위기에 대해서도 규제당국과 정치인, 그리고 언론까지 모두 작심한듯 비판했습니다.

2023년 버크셔 주총의 화두는 A. B. C로 정리할 수 있었습니다. 인공지능(AI), 은행 위기(Bank Crisis), 그리고 현금(Cash)입니다. 버핏은 올해 어떤 '현인의 지혜'를 보여줬을까요? 

워런 버핏의 주총 화두. A.B.C란?

"AI를 반드시 규제해야 한다"

미국 백악관은 지난 5월 4일(목) 카말라 해리스 미국 부통령 주관으로 구글, 마이크로소프트, 오픈AI, 앤스로픽 CEO를 불러 ‘AI 개별 현황’과 ‘AI가 야기할 수 있는 문제점’ 등에 대해 논의했다. (사진/Gettyimages)

지난 4일, 미 백악관에 순다르 피차이 구글 CEO, 사티아 나델라 마이크로소프트 CEO, 샘 알트만 오픈AI CEO 등이 '호출' 됐습니다.
카말라 해리스 부통령 주관으로 2시간 동안 이어진 회의에서 참석자들은 시종일관 AI기술에 대한 우려와 문제점, 대책을 논의했습니다.
빅테크 기업들이 AI 개발을 주도하고 있는 만큼 그들의 책임감있는 행동이 필요하다는 데 의견이 일치했습니다. 책임있는 혁신과 적절한 보호, 사람들의 권리와 안정성이 보호되어야 한다는 것이죠.

미국 정부는 올 여름 연방 기관을 위한 AI 가이드라인 초안을 내놓겠다고 약속했습니다. 연방 정부의 AI시스템 사용에서 정책 지침 초안을 대중에 공개할 예정입니다. 미국에서는 NIST가 AI 규제에 대한 주요 기구로 부상하고 있다는 소식입니다. 미국 국립 표준기술 연구소(National Institute of Standards and Technology)는 최신 기술에 대한 국가 표준을 개발하는 기관인데요. 이 연구소는 AI 책임감 있게 사용하는 방법에 대한 정부 프레임워크(framework)를 개발에 착수했다고 합니다.

거대 LLM 개발에 가속도를 붙이고 있는 한국도 AI 규제 논의를 서둘러야할 것입니다. 

한국도 AI 규제 논의 서둘러야

AI 지배하면 이렇게 될까? 유령도시 된 SF

폐장을 발표한 샌프란시스코 중심가에 있는 노드스트롬 (사진/Gettyimages)

코로나 팬데믹 이후 샌프란시스코를 혹시 가보셨나요?
출장으로 오신 분들도 있고 관광도 많이 오는 도시인데 요새 샌프란시스코를 가면 '둠 시티' 같은 느낌을 줍니다. 도시는 아름다운데 인적이 드뭅니다. 핵심 관광지역 중 하나인 '유니온 스퀘어' 인근 지역에 가면 노숙자와 범죄로 인해 폐점한 상점을 어렵지 않게 찾아볼 수 있습니다.
급기야 유명 백화점 노드스트롬(Nordsstrom)이나 홀푸드 등이 샌프란시스코 매장을 철수한다고 발표했습니다. 소매 절도 사건이 지속적으로 발생하고 있기 때문입니다. 위험해서 장사를 지속할 수 없다고 호소했습니다.
일론 머스크도 “SF 시내에 많은 상점이 문을 닫았다. ‘포스트 아포칼립스(영화나 소설, 게임 등에 등장하는 인류 문명이 붕괴한 이후 지구의 모습)를 느낀다”고 말했을 정도입니다.

샌프란시스코는 실리콘밸리가 아닌 '뇌(세레브럴) 밸리의 본부'라는 별칭을 얻을 정도로 AI 붐을 타고 있습니다. 하지만 AI가 지배하는 세상은 오늘날 '샌프란시스코'와 같이 둠 루프에 빠지는 것이 아니냐는 상상을 하게 됩니다.

왜 이런 일이 벌어졌을까요? AI 때문인가요? 기술 때문인가요? 아니죠. 저는 정치의 실종. 리더십의 실패가 샌프란시스코를 위기에 빠뜨렸다고 생각합니다. 

기술 아닌 정치 실패가 낳은 혹독한 결과. SF.
더밀크에서는 뷰스레터를 구독해 주시는 독자분들의 피드백을 하나하나 소중히 읽고 있습니다. 재미있었던 내용, 고쳐야 할 것들, 어떤 것도 좋습니다. 여러분의 이야기를 남겨 주세요. 여러분의 애정 어린 피드백은 더밀크 팀에게 큰 힘이 됩니다.
피드백 남기기

AI 철학, 정보, 스킬셋까지 더밀크에서 찾으세요


GPT발 인공지능 혁명이 가속화되고 있습니다.
정부, 기업부터 개인까지 'AI 혁명'을 어떻게 판단하고 대응해야할지, 전략은 어떻게 짜야할지 막연한 것도 사실입니다.
미국의 비즈니스 리더들은 AI의 급격한 발전로 인해 비즈니스 부터 사회 문화까지 모든 것이 변할 것이라고 예측하고 있습니다.

미국 현장에서 AI 혁명을 '라이브'로 분석하는 더밀크가 여러분들을 도울 수 있습니다. 더밀크에는 '생성AI'가 이끄는 비즈니스 변화에 대한 현장 분석 시리즈 콘텐츠에서 부터 '실리콘밸리의 구루' 캐빈 켈리의 인사이트 기사(AI 마스터클래스). 크리스 예 및 윤송이 사장 등 AI 아카데미 강의 까지 다양하게 구성 돼 있습니다.

GPT에 물어봐도 안나오는 대답이 더밀크에 있습니다. GPT는 '평균적인' 대답을 하고 때론 거짓말도 하지만 더밀크엔 독보적이고 생생한(유니크 & 라이브) 콘텐츠만 있으니끼요. 더밀크 구독으로 AI에 대응하는 철학과 새로운 무기를 찾으세요. (구독하시면 2주간 무료로 볼 수 있습니다).
더밀크 기업 구독을 하시면 유연한 가격으로 각 기업의 러디 및 임직원에게 '무기'를 드릴 수 있을 것입니다. 

(주)이엠디넷

대표자 : 조종현 ㅣ 주소 : 서울특별시 금천구 가산디지털1로 219,
1105호(가산동, 벽산디지털밸리6차) ㅣ TEL : 02-2627-3799 ㅣ
E-mail :manager@emdinet.com ㅣ사업장등록번호 : 220-86-77728


Copyright ⓒ EMDNET All rights reserved.  I  Hositing by I'MWEB

(주)이엠디넷

대표자 : 조종현 ㅣ 주소 : 서울특별시 금천구 가산디지털1로 219, 1105호(가산동, 벽산디지털밸리6차)

TEL : 02-2627-3799 ㅣ E-mail : manager@emdinet.com ㅣ 사업장등록번호 : 220-86-77728


Copyright ⓒ EMDNET All rights reserved.  I  Hositing by I'MWEB