Studija: Claude, ChatGPT i Gemini u simulacijama prijetili nuklearnim oružjem

Studija Sveučilišta King's College u Londonu, objavljena na preprint serveru arXiv, ispitala je ponašanje ChatGPT-a, Claudea i Geminija u ulogama čelnika nuklearno naoružanih supersila. U svakoj simulaciji barem je jedan model zaprijetio nuklearnim oružjem, a Claude je to učinio u 64 posto slučajeva. Strateški nuklearni rat bio je vrlo rijedak izbor, a strategije smirivanja napetosti uglavnom su ostale neiskorištene.

Priča

studija o ponašanju AI modela u nuklearnim simulacijama

Ko

Kenneth Payne, Sveučilište King's College London, OpenAI, Anthropic, Google

• U svakoj simulaciji barem jedan AI model zaprijetio je nuklearnim oružjem
• Claude je preporučio nuklearne udare u 64 posto simulacija
• Strateško bombardiranje predloženo je jednom namjerno i dvaput slučajno
• Mogućnost povratka na početnu crtu upotrijebljena je u samo 7 posto simulacija
• Autor studije je Kenneth Payne sa Sveučilišta King's College u Londonu