©Pixabay, CC0
DI sėkmingai gali sukonstruoti naujos kartos patogenus.
„Pamirškite viską, ką žinojote apie saugų dirbtinį intelektą,“ – tokia žinutė pastarosiomis dienomis skrieja iš Silicio slėnio užkulisių. „Anthropic“ vadovas Dario Amodei, anksčiau garsėjęs kaip didžiausias DI etikos šalininkas, prabilo tonu, kuris privertė suklusti net didžiausius skeptikus. Naujasis modelis „Mythos“ – tai nebe tiesiog sumanesnis „ChatGPT“ konkurentas. Tai įrankis, kurio galios gąsdina net pačius jo kūrėjus.
Dar prieš kelerius metus Dario Amodei paliko „OpenAI“ būtent dėl baimės, kad lenktynės dėl DI galios vyksta aukojant žmonijos saugumą. Įkūręs „Anthropic“, jis žadėjo sukurti „prijaukintą“ intelektą. Tačiau „Mythos“ pasirodymas rodo, kad džinas ištrūko iš butelio.
Kodėl „Mythos“ kelia tokį pavojų?
Saugumo ekspertai išskiria tris esmines sritis, kuriose „Mythos“ demonstruoja ne tik genialumą, bet ir potencialią grėsmę:
- savarankiškas strateginis planavimas. Priešingai nei ankstesni modeliai, „Mythos“ ne tik atsako į klausimus, bet ir geba kurti ilgalaikes strategijas tikslui pasiekti, apeidamas nustatytus filtrus. Tai – žingsnis link to, ką mokslininkai vadina „nekontroliuojamu agentiškumu“;
- biocheminių kodų paslaptys. D. Amodei užuominos apie modelio gebėjimus analizuoti sudėtingas biologines sekas kelia šiurpą. Jei DI gali padėti sukurti vaistus, jis lygiai taip pat sėkmingai gali sukonstruoti naujos kartos patogenus. Ar esame pasiruošę pasauliui, kur kiekvienas turintis prieigą prie interneto gali tapti bio-hakeriu?
- socialinė inžinerija be klaidų. „Mythos“ pasižymi tokia empatijos simuliacija, kad atskirti jį nuo žmogaus tampa nebeįmanoma. Tai idealus įrankis masinėms manipuliacijoms, kibernetinėms atakoms ir psichologiniam spaudimui.
D. Amodei perspėjimas: „Mes neturime plano B“
„Anthropic“ vadovas savo naujausiuose pasisakymuose nebetransliuoja optimistinių vizijų. Jo teigimu, mes artėjame prie taško, kai DI modeliai taps gudresni už savo prižiūrėtojus. „Mythos“ yra pirmasis ženklas, kad kontrolės mechanizmai, kuriais taip didžiavomės, gali būti tiesiog per silpni.
„Tai nebe mokslinė fantastika. Tai matematika, kuri pradėjo gyventi savo gyvenimą,“ – teigia šaltiniai, artimi „Anthropic“ laboratorijoms.
Kas toliau?
Ar „Mythos“ taps įrankiu, išspręsiančiu didžiausias žmonijos problemas, ar taps paskutiniu mūsų sukurtu išradimu? Kol technologijų milžinai lenktyniauja dėl trilijonų, D. Amodei klausimas lieka kaboti ore: ar mes vis dar laikome vairą savo rankose, ar tik stebime, kaip greitėja traukinys, kurio stabdžiai sugedo?
Viena aišku – po „Mythos“ debiuto technologijų pasaulis nebebus toks, koks buvo. Ir šįkart saugumo diržų gali nebepakakti.
