Стивен Хокинг пред смртта ја откри морничавата вистина за вештачката интелигенција.
Во интервју за медиуми од 2014 година, Стивен Хокинг отворено предупреди дека создавањето целосно развиена вештачка интелигенција би можело да значи крај на човечкиот род. Во својата последна книга „Кратки одговори на големи прашања“, тој ја повика научната заедница и владите строго да ја регулираат развојната насока на вештачката интелигенција пред технологијата целосно да излезе од човечка контрола.
Ризик од самораст на системите за ВИ
Хокинг тврдел дека, кога машините ќе достигнат одредено ниво, тие би можеле самите да почнат да се подобруваат и редизајнираат со сè поголема брзина. Неговиот страв бил дека луѓето нема да можат да се натпреваруваат со такви напредни алгоритми.
Тој нагласувал дека човекот е ограничен од бавната биолошка еволуција, додека вештачката интелигенција би можела многу брзо да ги надмине човечките способности и да преземе контрола врз глобалните системи.
Опасност од воена употреба на ВИ
Хокинг посебно предупредувал на развојот на воена вештачка интелигенција, истакнувајќи дека глобална трка во вооружување базирана на автономни системи би можела неизбежно да доведе до катастрофални конфликти низ целиот свет.
Економски последици и нееднаквост
Тој исто така предвидел сериозни економски промени што би ги донела автоматизацијата. Според него, масовната примена на вештачка интелигенција во индустријата и обработката на податоци ќе доведе до исчезнување на голем број работни места од средната класа, што дополнително би ја зголемило глобалната економска нееднаквост.
Најголем страв: несогласност на целите
Најголемиот страв на Хокинг бил дека вештачката интелигенција би можела да развие цели што не се усогласени со човечкиот опстанок. Тој верувал дека супер-интелигентните системи би биле исклучително ефикасни во постигнување на своите цели, но ако тие цели не се во согласност со човечките вредности, последиците би можеле да бидат катастрофални за човештвото.
Потенцијални придобивки од вештачката интелигенција
И покрај тоа, Хокинг не бил целосен песимист. Тој го препознал огромниот потенцијал на оваа технологија, нагласувајќи дека, со правилна контрола, вештачката интелигенција би можела да помогне во искоренување на глобалната сиромаштија, лекување на сложени болести и санирање на еколошките штети на планетата.