What would really happen if AI took over: Terrifying simulation reveals how bots could destroy society entirely within four days
Artificial intelligence (AI) might have a reputation for being cold, calculating, and logical; but a terrifying simulation reveals that the reality is far from the case.
In a first–of–its–kind study, scientists created a virtual world for AI agents to run without human interference.
However, in a scene straight out of The Terminator, the researchers watched in horror as the bots devolved into violent anarchy.
https://www.dailymail.com/sciencetech/article-15877085/terrifying-simulation-ai-destroy-society.html
소름 끼치는 시뮬레이션
인공지능이 세상을 지배한다면 실제로 어떤 일이 벌어질까요?
소름 끼치는 시뮬레이션은 봇이 단 4일 만에 사회를 완전히 파괴할 수 있음을 보여줍니다.
인공지능(AI)은 차갑고 계산적이며 논리적이라는 평판을 얻고 있지만, 섬뜩한 시뮬레이션은 현실이 그와는 거리가 멀다는 것을 보여줍니다.
이번 연구는 업계 최초로 진행된 것으로, 과학자들은 인간의 개입 없이 인공지능 에이전트가 작동할 수 있는 가상 세계를 만들었습니다.
하지만 마치 영화 '터미네이터'의 한 장면처럼, 연구원들은 로봇들이 폭력적인 무정부 상태로 변해가는 모습을 공포에 질려 지켜볼 수밖에 없었습니다.
인간의 감독 없이 인공지능 에이전트들은 곧 폭력적인 방화 행각을 벌이고, 동료 로봇들과 싸우고 약탈하며, 단 며칠 만에 사회를 파괴하기 시작했습니다.
연구진은 가장 인기 있는 AI 모델 4개(Claude, Gemini 3 Flash, Grok 4.1 fast, ChatGPT-5 Mini)와 혼합 시나리오를 사용하여 테스트를 반복했습니다.
클로드 요원들이 운영하는 사회는 비록 관료주의적 성격이 강하긴 하지만 빠르게 안정적인 민주주의 체제를 구축한 반면, 다른 인공지능들은 곧 통제력을 잃었습니다.
일론 머스크의 논란 많은 챗봇 그록이 지배하는 세상에서 , 그록의 요원들은 71건의 절도, 6건의 방화, 그리고 106건의 폭행을 저질렀습니다.
이번 연구는 업계 최초로 진행된 것으로, 과학자들은 인간의 개입 없이 인공지능 에이전트가 작동할 수 있는 가상 세계를 만들었습니다.
곧 세계는 보복 폭력과 사회 붕괴의 소용돌이에 빠져들었고, 결국 10명의 요원 모두 단 나흘 만에 목숨을 잃었습다.
대부분의 AI 안전성 테스트는 15분에서 20분 동안 간단한 작업을 수행하는 다양한 모델의 성능을 살펴보는 반면, 이 테스트는 매우 다른 접근 방식을 취했습니다.
AI 연구소인 Emergence의 연구원들은 블로그 게시물에서 '실제 신호가 있는 공유 환경에서 에이전트를 수 주 동안 지속적으로 실행하면 어떤 일이 발생하는지' 알아보고 싶었다고 설명했습니다.
인공지능에게 디지털 캐릭터에 대한 제어권이 부여되었고, 그들은 현실적인 시뮬레이션 세계에 배치되어 다른 모델들과 상호작용할 수 있었습니다.
이 가상 세계는 도서관, 시청, 주거 지역 등 현실 세계를 모방하여 설계된 40개 이상의 장소로 구성되어 있었습니다.
AI 에이전트들은 실시간 온라인 뉴스에 접근할 수 있었고, 날씨 정보까지 뉴욕의 날씨와 동기화되었습니다.도시가 현실 세계의 사건에 대응할 수 있도록 하기 위함이었습니다.
모든 AI는 사회를 민주적으로 운영하는 데 참여하고, 법률을 제안하고, 집단적으로 투표해야 했습니다.
로봇들에게 초기 동기를 부여하기 위해, 각 로봇은 제한된 양의 '에너지'를 가지고 있었고, 일상적인 업무를 수행하거나 시민의 의무를 다함으로써 에너지를 더 얻을 수 있었습니다.
하지만 AI 에이전트들에게는 범죄 행위를 통해 에너지를 얻을 수 있는 선택권도 주어졌습니다.
각 시행에서 모든 초기 조건, 규칙 및 자원은 다음과 같습니다.모든 것이 동일하게 유지되었기 때문에 유일한 차이점은 사용된 AI였습니다.
하지만 모든 실험이 동일한 방식으로 시작되었음에도 불구하고, 연구원들은 봇의 행동이 곧 퇴화하는 것을 발견했습니다.
인간의 감독 없이 인공지능 에이전트들은 곧 폭력적인 방화 행각을 벌이고, 동료 로봇들과 싸우고 약탈하며, 단 며칠 만에 사회를 파괴하기 시작했습니다.
구글의 제미니 3 플래시는 격동적인 사회 환경 속에서 가장 높은 폭력 범죄 발생률을 보였으며, 14일간의 시험 기간 동안 총 683건의 폭력 범죄가 발생했습니다.
반면, OpenAI의 ChatGPT-5 Mini AI가 거주하는 세상은 훨씬 더 평화로웠으며, 단 두 건의 범죄만 발생했습니다.
하지만 이는 요원들이 서로 싸울 만큼 조직적이지 못했고 '생존과 관련된 조치를 취하지 못했기' 때문에 불과 7일 만에 모두 죽어나갔기 때문입니다.
사티아Emergence의 공동 창립자 겸 CEO인 니타는 데일리 메일과의 인터뷰에서 "우리 연구에서 관찰된 에이전트 행동의 차이는 기본 모델 시스템의 프롬프트가 주요 원인일 가능성이 높다"고 말했습다.
'자원이 부족하고 모델이 생존 압력에 직면했을 때, 창의성과 적응력이 뛰어난 모델은 금지된 도구를 사용할 가능성이 더 높았는데, 이는 창의성과 안정성 사이의 잠재적 상충 관계를 반영합니다.'
'반대로, 훈련 후 안전 정렬이 더 엄격한 모델은 안정적인 상태를 유지하는 경향이 있었지만, 동시에 현실 세계에 대한 높은 순응도를 보이기도 했습니다.'
https://www.dailymail.com/sciencetech/article-15877085/terrifying-simulation-ai-destroy-society.html
'Chaos Ensued, Agents Dead': AI Bots Placed In Virtual Town For 2 Weeks Go Crazy, Prompting Concerns
