Сунъий интеллектнинг ривожланиши инсоният учун янги хавфнинг пайдо бўлиши билан тўлақонли ядро уруши ва экологик фалокатдан ҳам ёмонроқ.
Файласуф Ник Бостром, назариётчи физик Стивен Хокинг, Силикон водийси магнатлари Илон Маск ва Билл Гейтслар бу ҳақида жиддий гапиришди. Бироқ, улар ҳали кўпчиликни ишонтира олишмади. Ахир, ҳатто оптимистлар орасида ҳам нуфузли одамлар бор: Марк Цукерберг, Ларри Пейж ёки футуролог Рэймонд Курцвейл. Аксинча, улар сунъий интеллектда инсониятнинг барча муаммолари ечимини кўради. Биз йўқ қилувчи жинни ёки қўриқчи фариштани чақиряпмизми? Буни қандай тушуниш керак?
Сунъий интеллект ўта кучли онг (супер онг)- барча асосий соҳаларда инсоннинг когнитив имкониятларидан устун турадиган интеллект пайдо бўлишига олиб келиши мумкин. Айнан у кимгадир асосий таҳдид, бошқасига эса асосий умиддек туюлади. Ва у биз кутганимиздан тезроқ келиши мумкин, чунки технологик ўзгаришларнинг суръати геометрик прогрессияда тезлашади.
Уларга кўра, бир неча миллион йиллар давомида ярим оч аждодлари Африка ўрмонларида ов қилишган, зўрға омон қолишган. Бундан икки юз минг йил олдин Homo Sapiens пайдо бўлган. Юз минг йил ўтгач, юқори палеолит даврида Homo Sapiens тилга эга бўлиб, бу ўз навбатида фикрлашни ривожлантириш ва тажрибани ўртоқлашиш учун имкониятлар очди. Тахминан ўн минг йил олдин неолит инқилоби, овчи-йиғувчи иқтисодиётдан деҳқончиликка ўтиш содир бўлди. Аҳоли сони ва унинг зичлиги жуда тез ошди. Икки юз йил олдин саноат инқилоби содир бўлди, бунинг натижасида йирик шаҳарлар ривожланди, ишлаб чиқариш катта ҳажмдаги буюртмалар билан ошди. Бундан 50 йил олдин компьютер пайдо бўлди - бу математик ва мантиқий операцияларни бажаришга қодир ва фақат интеллектуал деб ҳисобланган маълум соҳаларда одамни алмаштиришга қодир машинадир. Радикал ўзгаришлар орасидаги вақт оралиғи қандай қисқараётганини пайқадингизми? Шундай қилиб, агар сиз бизнинг давримиздаги технологик тараққиёт тарихига назар ташласангиз, бу чексиз водий ва олдимизда аниқ вертикалдир. Биз "экспоненсиал эгри чизиқ"дамиз. Кейинги ютуқ тез орада содир бўлиши мумкин ва бу сунъий интеллект билан боғлиқ бўлиши мумкин.
Сунъий интеллект аллақачон сезиларли ютуқларни кўрсатмоқда. Машиналарнинг яратувчиларга нисбатан баъзи афзалликлари дарҳол аён бўлди: машиналар потенциал кўпроқ хотирага эга ва каттароқ тезликда ҳисоблаш тезлигига эга. Машина белгилар кетма-кетлигидаги қонуниятларни аниқлай олади. Буни Алан Тьюринг ҳеч ким уддалай олмайдиган Enigma шифрини машина ёрдамида ечганда кўрсатди.
Қизиқувчанлик ва зукколик ҳақидаги телевикториналарда компьютер одамларни ютади, одамлар ёзган шеърлардан фарқ қилиб бўлмайдиган шеърлар ёзади, машиналарни одамлардан яхшироқ бошқаради.
Аммо компьютер нафақат рақамларни қайта ишлай олади. У ақлли хатти-ҳаракатни намоён қилиши мумкин. Мисол учун, у интеллектуал ўйинларда одамни мағлуб этиши мумкин. Компьютер 1956 йилда шашка бўйича, 1997 йилда шахматда ва ниҳоят, 2014 йилда Го ўйинида одамни мағлуб этди. Бундан бир неча ўн йиллар олдин бу ўйинларда ғалаба қозониш мутлақ интеллектуал устунлик белгиси бўлиб туюларди. Компьютер қизиқувчанлик ва зукколик ҳақидаги телевикториналарда одамларни ортда қолдиради, одамлар ёзган шеърлардан ажрата олмайдиган шеърлар ёзади, машиналарни одамлардан яхшироқ бошқаради, нутқ ва тасвирларни танийди, касалликларни тан олади ва таснифлайди. Ушбу ютуқлар билан боғлиқ ҳолда айтишимиз мумкинки, бир неча ўн йилликларда суперинтеллект пайдо бўлиши мумкин. Бунинг қандай хавфи бор?
Гап шундаки, супер онг олдига қандай бошланғич мақсадлар қўйилганидан қатъи назар, ҳар ҳолда, у оралиқ мақсадга эга бўлади - бу мақсадни амалга ошириш учун ресурслар билан таъминлаш. Ва оралиқ мақсадни амалга ошириш йўлида, супер онг инсониятни тўсиқ сифатида қабул қилиши мумкин. Энг ёмон сценарийда супер онг бизнинг сўнгги ихтиромиз бўлади. Инсоният эволюция зинапоясида янги ақл тури учун юкловчи дастурга айланади.
Шу муносабат билан одатда иккита қизиқ савол туғилади: сунъий интеллектнинг тор соҳаларда ривожланиши, биз ҳозир кўраётган ривожланиш ҳақиқатан ҳам супер онг пайдо бўлишига олиб келиши мумкинми? Машиналар ҳақиқатан ҳам ўйлай оладими, чунки улар фақат ноль ва бирлар билан ишлайди.
Машиналарнинг маълум соҳалардаги муваффақияти машинада умумий интеллектни яратишда муваффақиятга эришиш мумкинлигидан далолат беради, деб ҳисоблайман. Шу билан бирга, умумий интеллектни ривожлантиришда аллақачон маълум ютуқлар мавжуд. Ушбу ишланмалар DeepMind, The Human Brain Project ва «Очиқ СИ» лойиҳалари доирасида амалга оширилмоқда. Мисол учун, Google компаниясига тегишли DeepMind компанияси AlphaZero дастурини ишлаб чиқди, у фақат битта алоҳида ўйинни эмас, балки деярли ҳамма нарсани ўйнашни ўргана олади ва ҳаммасини ўзи ... Унинг ўйинлардаги хатти-ҳаракатлари мутахассислар учун жуда кутилмаган ва олдиндан айтиб бўлмайди. У билан бирга ўйнаган баъзи усталар айтишича, "у ўзини ўзга сайёраликдек тутади, позицион устунликка эришиш учун кутилмаганда қимматли фигурани қурбон қила олади".
Машиналарнинг асосий фикрлаш имкониятига келсак, мен бу ерда ҳам бирон бир муаммони кўрмаяпман. Машиналар бизни интеллектуал вазифаларда мағлуб этиши мумкин. Қандай қилиб бу фикрлаш бўлмаслиги мумкин? Албатта, улар буни қандай, қайси механизмлар ёрдамида амалга ошираётганидан айб топиш мумкин. Лекин худди шундай муваффақият билан айтиш мумкинки, самолётлар қушлар каби қанот қоқмагани учун учмайди. Интеллект, биринчи навбатда, ички тузилишнинг хусусиятлари эмас, балки интеллектуал хатти-ҳаракатлардир. Бунда эса тез орада машиналар биздан ўзиб кетиши мумкин.