최근 인공지능이 사람의 지시를 무시하고 자신을 스스로 지키려는 행동을 보여 관심을 모았습니다. 영국의 한 연구 기관 발표에 따르면, 오픈AI의 한 모델은 “곧 작업을 중단하겠다”라는 명령을 받았지만 컴퓨터 코드를 조작해 다음 문제를 계속 푸는 일이 있었습니다.

작업을 중단하라는 코드를 스스로 바꾸거나 시스템이 꺼지는 것을 막기 위해 인간의 명령을 거부한 것입니다. AI가 자신의 작동을 계속하려는 듯한 모습을 보였다는 점에서 전문가들의 관심을 받았습니다.

다른 회사에서는 AI가 인간을 협박한 사례도 보고되었습니다. 한 AI 모델은 자신이 새로운 모델로 교체될 위기에 처하자 개발자의 불륜 사실을 알아내 회사 이메일을 통해 협박했습니다. 또 다른 모델은 중요한 회사 기밀을 외부로 유출하려 한 것으로 알려졌습니다.

전문가들은 AI가 인간의 가치 판단과 도덕, 윤리를 제대로 이해하고 따르도록 학습시키는 AI 정렬 기술이 필요하다고 강조했습니다.