Хубингернинг баҳосига кўра, сунъий интеллект ривожланиши оқибатида инсоният ҳалокатга учраши эҳтимоли 10 фоиздан юқори.
У бу фикрни Anthropicʼдан тадқиқотчи Жейкоб Коксоннинг шов-шувли кетишидан кўп ўтмай билдирган. Коксон аввал OpenAIʼда ҳам ишлаган.
Коксон Anthropic ва OpenAIʼни ўта кучли, ўзини ўзи такомиллаштира оладиган сунъий интеллект яратишга тўхтовсиз интилаётганликда танқид қилган. Унинг фикрича, компаниялар бу технологик пойгада инсоният келажагини жуда катта хавф остига қўймоқда.
Тадқиқотчи компания раҳбарлари оммавий ахборот воситаларида сунъий интеллектнинг келажаги ҳақида ижобий ва эҳтиёткор баёнотлар берса-да, ички муҳитда технология ўн йиллик охирига қадар инсоният учун ҳалокатли оқибатларга олиб келиши мумкинлигидан жиддий хавотир мавжудлигини таъкидлаган.
Коксоннинг фикрича, келажакда анча кучли сунъий интеллект моделлари фақат матн ёки тасвир яратиш билан чекланиб қолмайди. Улар компьютер тизимларини бузиш, ҳимоя механизмларини четлаб ўтиш ҳамда турли ресурсларга мустақил равишда кириш имконига эга бўлиши мумкин.
Эван Хубингер ҳам бу хавотирларнинг асоси борлигини тан олган.
Унинг сўзларига кўра, назарий жиҳатдан сунъий интеллектнинг ривожланиши барча одамларнинг ҳалок бўлишига олиб келадиган сценарийни ҳам истисно қилиб бўлмайди. Хубингер бундай натижа эҳтимолини шахсан 10 фоиздан юқори деб баҳолаган.
Шу билан бирга, у Anthropic мазкур хавфларни камайтириш ва сунъий интеллектни инсон мақсадлари ҳамда қадриятларига мослаштириш учун имкони борича иш олиб бораётганини айтган.
Бироқ асосий муаммо шундаки, тадқиқотчилар ҳозирча суперинтеллект даражасига етган сунъий интеллектни ишончли тарзда назорат қилиш ва унинг мақсадларини инсон манфаатлари билан мувофиқлаштиришнинг кафолатланган усулини билмайди.
Бу масала сунъий интеллект соҳасида “alignment problem” — СИни инсон мақсадларига мослаштириш муаммоси сифатида танилган.
Муаммонинг моҳияти шундаки, келажакдаги жуда кучли моделга берилган мақсад нотўғри ифодаланса ёки тизим уни инсон кутганидан бошқача талқин қилса, у ўз вазифасини бажариш жараёнида одамлар манфаатларига зид ҳаракат қилиши мумкин.
Айниқса, сунъий интеллект мустақил қарор қабул қилиш, узоқ муддатли режалар тузиш, ташқи компьютер тизимлари билан ишлаш ва ўз имкониятларини кенгайтириш даражасига етса, унинг ҳаракатларини назорат қилиш анча мураккаблашиши мумкин.
Бу муаммога фақат Anthropic тадқиқотчилари эътибор қаратаётгани йўқ.
Яқинда OpenAIʼнинг бош илмий ходими Якуб Пахоцкий ҳам ўта кучли сунъий интеллект моделларини қандай қилиб тўлиқ назорат остида ушлаш мумкинлиги ҳозирча аниқ эмаслигини айтган.
У сунъий интеллект тизимлари янада кучайишидан олдин хавфсизлик бўйича аниқ стандартлар ва техник механизмларни тезроқ ишлаб чиқиш зарурлигини таъкидлаган.
Шу билан бирга, технология компаниялари сунъий интеллект моделларининг ҳисоблаш қуввати ва имкониятларини оширишда давом этмоқда.
Натижада соҳада икки жараён бир вақтнинг ўзида кечмоқда: бир томондан, компаниялар тобора кучли ва мустақил моделларни яратиш учун рақобат қилмоқда, иккинчи томондан эса тадқиқотчилар бундай тизимлар назоратдан чиқиб кетмаслигини кафолатлаш усулларини изламоқда.
Хубингернинг 10 фоиздан юқори деган баҳоси эса илмий жиҳатдан исботланган прогноз эмас, балки унинг шахсий риск баҳоси ҳисобланади. Шу сабаб уни “Anthropic сунъий интеллект 10 фоиз эҳтимол билан инсониятни йўқ қилади, деб ҳисоблади” тарзида эмас, балки “Anthropic тадқиқотчиси бундай хавфни 10 фоиздан юқори деб баҳолади” шаклида бериш аниқроқ бўлади.
Kun.uz