Anthropic tvrdí, že zmařil pokusy zneužít AI pro vývoj biologických zbraní

Americká technologická společnost Anthropic odhalila a zmařila několik pokusů o využití svých modelů umělé inteligence (AI) k vývoji biologických zbraní. Uvedla to ve 154stránkové zprávě, v níž představuje nejzávažnější incidenty z letošního roku, kdy byly její modely Claude zneužity nebo se o zneužití někdo pokoušel.

V uplynulém roce týmy Anthropiku také podle zprávy prošetřovaly a zmařily činnost řady aktérů, kteří využívali systémy Claude k vývoji softwaru pro návrh a vývoj zbraní nebo k podpoře sběru zpravodajských informací a zásobování, na nichž jsou zbrojní programy závislé.