Antropik sprečio zloupotrebe AI
Kompanija upozorava na opasnosti od zloupotreba veštačke inteligencije za razvoj vojnih i bioloških oružja
Američka tehnološka kompanija Antropik (Anthropic) otkrila je i sprečila nekoliko pokušaja korišćenja svojih modela veštačke inteligencije (AI) u razvoju bioloških oružja. Saopštila je to na 154 strane izveštaja u kojima se predstavljaju najvažniji incidenti iz prošle godine kada su njeni modeli “Claude” zloupotrebljavani ili je neko to pokušao.
U prošloj godini timovi firmi, prema vestima iz medija, pregledali su, istražili i loše ocenili delatnost niza aktera koji su koristili sisteme “Claude” u izradi softvera za razvoj oružja ili korišćenje nizova obaveštajnih i logističkih informacija na kojima se zasnivaju vojni programi.
Informacija detaljnije obrađuje šest slučajeva vojne upotrebe, od toga tri u Kini, dva u Rusiji i jedan u Jemenu. Između ostalog, navodno, Antropiku je uspelo da uništi rusku operaciju važnu za razvoj autonomnog roja vojnih dronova.
Prema dokumentu, modele “Claude” koristili su, između ostalih, akteri povezani sa kibernetičkom špijunskom kampanjom, vođenom iz Rusije ili iz obaveštajne i propagandne iranske institucije.
Informacija dalje navodi pet odgovarajućih studija u kojima su akteri koristili “Claude” modele "načinom kojim bi mogao da služi za razvoj bioloških oružja".
Zloupotreba u biološkoj oblasti je, prema Antropiku, jedan od najvažnijih rizika naprednih modela AI. Bez odgovarajućih pravnih bezbednosnih mera takve sposobnosti mogle bi izazvati kastastrofalne posledice, saopštili su u petak autori izveštaja.
