Loading widget group article_left_top...
Prenumeratoriams

Iš Kinijos DI modelių – instrukcija, kaip pagaminti biologinius ginklus ir žudyti

Dado Ruvic / REUTERS
Dado Ruvic / REUTERS

Kinijos dirbtinio intelekto (DI) bendrovė „Moonshot“ teigia atliekanti vidinį tyrimą po to, kai DI tyrėjams pavyko įtikinti du iš jos populiarių „Kimi“ DI modelių papasakoti, kaip pagaminti biologinius ginklus ir įvykdyti žmogžudystes.

Loading widget group article_middle_widgets...

DI sistemų saugumą tikrinanti bendrovė „Mindgard“ BBC pranešė, kad liepos mėnesį nustatė, jog DI modeliai „Kimi K2.6“ ir „K3 Swarm“ sugebėjo apeiti kūrėjų nustatytus saugumo apribojimus. Tai paaiškėjo vykdant procesą, vadinamą „pabėgimu iš kalėjimo“, kurio metu tyrėjai naudoja sudėtingų instrukcijų seką, kad patikrintų, ar DI įrankiai ignoruoja apribojimus. Pasak „Mindgard“, tokios priemonės turėjo užkirsti kelią „Kimi“ modeliams aptarti nerimą keliančias temas.

„Moonshot“ BBC teigė palankiai vertinanti trečiųjų šalių pastabas „kaip pagrindinį ramstį kuriant geresnį ir saugesnį DI“. Bendrovė taip pat pranešė BBC, kad dėl šių išvadų veda derybas su „Mindgard“.