인공지능 관련 우려

인공지능이 우리의 삶 속으로 깊숙이 파고들수록 생활이 편리해지기도 하지만, 인공지능 관련 우려스러운  점들도 생겨나는 것 같습니다.

자율 주행차가 사고가 나면 누구의 책임일까요? 인공지능에게 책임을 물을 수 있을까요? 코로나로 취소된 졸업 시험 대신 인공지능이 학점을 예측하여 부여했을 때 공립학교 학생들보다 높은 점수를 받은 사립학교 학생들... 기존의 편견과 차별을 그대로 반영한 인공지능......

2016년 자기주도적인 심화학습이 가능한 알파고가 등장해서 이세돌 프로기사를 이긴 떠들썩했던 역사적인 사건 이후로 저에게 인공지능은 위협으로 다가왔습니다.

최근 들어 생성형 인공지능의 오남용이 늘어나면서 이에 따른 세계 각국의 규제 움직임도 빨라지고 있습니다.

 

예를 들어 민주당 소속인 힐러리 클린턴 전 국무장관이 공화당 대선후보로 나선 디샌티스 플로리다 주지사를 지지한다는 내용의 가짜 영상을 생성형 AI가 만드는가 하면, SNS상에서 ‘역대 최약체인 조 바이든 미 대통령이 재선 될 경우’란 제목으로 유통된 약 32초 분량으로 제작된 이 영상은 경제 악화와 범죄율 상승, 국경정책 후퇴 등을 포함한 가상 시나리오를 담고 있다고 합니다.

 

또 챗GPT와 같은 인공지능이 곧 인간의 일자리를 대체할 수 있다는 우려가 이미 일부 직종에서는 현실화하고 있다는 분석이 있습니다.

미국 일간 워싱턴포스트(WP)에 따르면 전문가들은 인간과 같은 글을 쓸 수 있는 AI가 고임금 지식 노동자를 대체할 수 있다고 합니다. 미국 투자은행(IB) 골드만삭스는 지난 3월 생성형 AI가 전 세계에서 3억개의 정규직 일자리에 영향을 줄 수 있으며 화이트칼라 일자리가 가장 큰 영향을 받을 것으로 예상했습니다.

어릴 적 보았던 ‘터미네이트라’는 영화가 생각납니다.

영화에서 1984년 세계는 인공지능 시스템인 스카이넷에 의해 통제되고 있는 상황에서 여주인공 사라 코너는 인공지능 로봇 터미네이터에 의해 추격당합니다. T-100인 이 로봇은 인간의 외형을 띠며 놀랄만큼 강력하고 무자비한 전투능력을 갖고 있습니다. 이하 중략...

이 영화는 인공지능과 인간과의 관계를 다루고 있습니다. 이를 통해 인간이 인공지능과 공존하는 미래는 어떨지에 대한 생각을 자극하고 있습니다. 단순한 SF영화를 넘어 이 영화는 인간의 가치와 생명에 대한 진지한 문제를 다루고 있으며, 인간의 본질에 대한 질문을 던졌을 뿐만 아니라 인간과 인공지능의 관계, 인공지능이 인간에게 가져다 줄 수 있는 편익과 위협에 대한 문제를 다루었습니다.

무척이나 재미있게 보았던 것 같습니다.

 

4차 산업혁명 시대입니다. 시·공간의 한계를 초월한 초연결 지능형 사회 구현도 초읽기에 들어섰습니다..

지난 5월 31일 스웨덴에서 열린 제4차 미국-유럽연합(EU) 무역기술협의회(TTC)에 참석한 토니 블링컨 미 국무장관은 공동 기자회견에서 생성형 AI와 연계된 위기감을 이렇게 밝혔습니다. “생성형 인공지능(AI)에 대해선 극도로 시급함을 느끼고 있다.”

이번 무역기술협의회에서는 챗GPT 등을 포함해 AI 부작용 방지에 필요한 ‘자발적 AI 행동강령’이 다뤄졌다고 합니다. 또 미국-EU는 공동성명에서 AI에 대해 "국민들에게 번영과 공정성을 증대할 기회를 제공하는 변혁적 기술"이라면서도 "그 기회를 잡기 위해선 우선 위험성을 줄여야 한다"라고" 명시했습니다.

 

최근 AI 분야에서 존재감을 나타내고 있는 중국 역시 규제 도입에 적극적입니다. 중국 국가인터넷정보판공실(CAC)은 지난달 11일 AI 기업들이 따라야 할 규정과 이에 반할 경우 벌칙까지 포함시킨 가이드라인 초안을 발표했습니다.

이 초안에 따르면, 모든 기업이 AI 관련 서비스 출시 전에 당국의 보안 평가는 필수이고 이용자에게도 실명 제출을 요구해야 한다고 합니다. 또한 AI 학습 데이터의 합법성에 책임을 지고, 알고리즘 설계 등에서도 차별과 허위정보 생성을 방지하도록 의무화된다고 합니다.

 

생성형 AI 중심부에 자리한 관련업계와 석학들의 분위기 역시 진흥보다는 규제로 흘러가는 양상입니다. 월스트리트저널은 최근 비영리단체 'AI안전센터'(CAIS)가 인류의 절멸 가능성과 더불어 AI 기술 통제 필요성까지 언급한 성명도 발표했다고 전했습니다.

특히 AI의 위험성을 핵무기와 신종 전염병에 비유한 이 성명에서는 “일반 대중들도 AI 기술이 지닌 위험성을 인식해 왔지만, 훨씬 다양한 분야에 대한 해결책이 논의돼야 한다”라고” 지적하면서 공개적인 토론이 필요하다고 언급했습니다.

이 성명에는 챗GPT의 창시자 샘 알트먼 오픈 AI 최고경영자와 케빈 스콧 마이크로소프트(MS) 최고기술책임자 등을 포함한 350여 명의 AI 업계 관계자가 함께했다고 합니다.

이번 성명에 앞서 일론 머스크를 포함해 1,000명 이상의 정보기술(IT) 업계 관계자들이 6개월 동안 AI 개발을 일시 중단하자고 밝히기도 했습니다.

 

지금 우리는 인공지능 시대에 살고 있습니다. 인간의 육체적 활동을 뛰어넘어 인간의 지적·정신적 활동까지 대신해 줄 뿐 아니라, 인간과 감성적으로 교류하거나 인간의 언어를 이해하고 대화를 나누는 AI가 속속 등장하고 있습니다.

특히 인간에게만 고유한 것으로 간주되었던 감성, 이성, 자율성 등의 능력이 기계에서도 구현 가능한 시대, 그래서 기계가 인간처럼 스스로 생각하고 행동할 수 있는 주체로서의 자율적인 행위자가 되는 시대라고 말할 수 있습니다.

 

새로운 시대를 준비해야 할 것 같습니다. 터미네이트에서처럼 인공지능이 인간을 지배하는 세상을 맞을 수는 없지 않나요?