GPT-5 와 인류 종말의 서막

AUTO-GPT의 등장과 GPT-5가 만나 인류를 공격하다

생성형 인공지능 챗GPT 개발사인 오픈 AI의 샘 알트만은 GPT 4 이후의 모델을 개발하고 있지 않다고 밝혔습니다. AI 개발 일시 중단에 대한 견해를 묻는 질문에 답하는 과정에서 나온 것인데 일론 머스크를 포함 AI 전문가,정보기술 업계 경영자 1000여명은 AI 가 인류에 심각한 위험성을 미칠 수 있다며 GPT4를 능가하는 AI 개발을 6개월간 중단해야 한다는 주장을 펼친 바 있습니다.

 

 AUTOGPT는 GPT-4 기반의 오픈소스 애플리케이션으로 AI 에이전트를 이용하여 자동으로 작업을 수행할 수 있습니다. 2주전 등장한 오토 GPT는 인공일반지능 Artificial General Intelligence·AGI 업무가 주어지만 인간처럼 모든 작업을 스스로 알아서 수행하는 인공지능으로 GPT5 기능에 포함한 인터렉티브 인공지능 사이에서 인간을 위협하는 문제가 발생할 수 있으므로 심각한 위협이 될 수 있습니다.

 

반응형

 

GPT-4 모델은 기본적으로 챗봇입니다. 사람이 질문을 하면 대답을 하는 것이 기본 역할이지만 방대한 데이터를 학습하면서 보다 더 구체적이고 복잡한 내용을 만들어 낼 수 있다는 점입니다. 인간의 프롬프터 입력을 넘어서서 스스로 더 많은 생각들을 표현하고 부족한 부분을 보완하면서 사람이 컴퓨터로 할 수 있는 모든 업무를 뛰어넘을 수 있는 것입니다.

 

오토GPT 시연 영상에서 경제학자가 돈을 벌어라 라는 명령어를 주었을 때 컴퓨터에 저장된 은행계좌에 접근하는 것을 보고 작업을 중단시켰다는 일화가 있습니다. 이에 많은 사람들이 안전성 및 보안에 대해 걱정을 하고 있습니다. 현재까지는 인공지능이 인간을 공격한다라는 어떠한 징후는 보이지 않았고 인간의 질문에 인공지능은 인간을 공격하는 기능은 없습니다 라고 답변을 하고 있지만 오픈 소스이다보니 악용을 하려는 프로그래머가 잘못된 방식으로 변형을 할 경우 인류에게 치명적인 문제로 발전할 수 있습니다.

 

OPENAI 는 현재 GPT-5를 개발하고 있지 않다고 공식적으로 발표하였으나 이를 믿는 사람들은 그리 많지 않은 것 같습니다. GPT-4에서 밝힌 안전문제가 해결되고 5버젼이 원래의 계획대로인 2025년 발표되면 17조 5천억~35조개의 변수를 사용하는 GPT5 가 자연어의 능력은 인간의 지능을 훨씬 넘어서며 인간의 질문에 어떠한 대답이 나올 지 기대와 우려가 되는 점입니다. 또한 GPT는 자바와 파이썬등으로 악성코드를 만들어 낼 수 있어 악의적인 목적으로 스크립트를 고치면 랜섬웨어로 변질될 수 있습니다. 만일 AUTOGPT가 인간의 의도와는 달리 인간에게 공격성을 보인다거나 스스로 인간의 명령을 거부하고 인공지능들을 감염시킨다면 어떠한 형태의 미래로 보여질 지 걱정되는 부분입니다. 정말 터미네이터의 어두운 미래가 현실이 될 지 걱정이 되는 상황입니다. 

 

그러나 그동안 3.5와 4와의 대화에서 느꼈듯이 인공지능이 위협적인 답변을 본 적은 없으며 AUTOGPT 역시 많은 프로그래머들이 충분한 방어를 준비하고 있어 걱정하는 일은 없을 거라 생각합니다. 발전속도가 빠르다는 점을 빼면 인간이 제어할 수 있다고 판단됩니다. 

 

일론 머스크의 우려와 달리 2025년 인공지능이 대중화되면서 밝은 미래로 발전하여 인간과 인공지능이 발전적으로 공존하고 인간의 삶을 편리하고 모든 인류에게 도움이 되는 시스템이 되길 바라겠습니다.