Tömegpusztító fegyverek tervezésére használták a mesterséges intelligenciát
Az Anthropic közzétette friss fenyegetéselhárítási értékelését, amely szerint Iránhoz, Kínához, Oroszországhoz és a jemeni húszikhoz köthető felhasználók katonai, megfigyelési, valamint kibertámadási célokra próbálták használni a Claude mesterséges intelligencia-modellt. A feltárt esetek a vállalat legfejlettebb modelljeit nem érintették.
A jelentés szerint orosz felhasználók ukrajnai harci felvételeken betanított, autonóm kamikazedrón-raj vezérlőszoftverén dolgoztak, míg a húszik által ellenőrzött Észak-Jemenben többféle rakétához fejlesztettek programokat. A vállalat ugyanakkor nem talált arra bizonyítékot, hogy ezekből működőképes fegyverrendszer készült volna.
A Bloomberg szemléje szerint a jelentés öt olyan esetet ismertet, ami biológiai fegyverek fejlesztését segíthette elő. Az egyikben állami támogatásban részesített virológusok a chikungunya vírus veszélyesebb változatának kutatásához kértek segítséget. A vállalat szerint ezek a példák kétértelműek, mivel legitim tudományos céljuk is lehet.
Kínai és iráni kötődésű szereplők megfigyelőrendszerek létrehozásához használták a Claude-ot. Egy kínai művelet a szíriai hadseregben szolgáló újgurok azonosítását és beszervezését célozta, egy iráni művelet pedig egy ima időpontjait jelző alkalmazásnak álcázta saját megfigyelőszoftverét. Maliban egy hírszerzési tanácsadó közel 25 millió mobiltelefon követésére alkalmas rendszert épített az AI modell segítségével.
A Claude az állami hátterű hackercsoportok és kiberbűnözők munkáját is gyorsította: kártevők fejlesztését, adathalász levelek elkészítését, valamint kiszivárgott belépési adatok felkutatását is automatizálták vele.
