Кръстникът на изкуствения интелект предупреди, че хората трябва да се научат да живеят в разбирателство с роботите, в противен случай рискуват да бъдат унищожени. Според него технологията вече показва признаци на „съзнание“, пише Daily Mail.
Професор Джефри Хинтън, британско-канадски компютърен учен, известен с работата си върху изкуствените невронни мрежи, отправи сериозно предупреждение по време на фестивал на остров Тенерифе. Той призна и че се страхува за собствените си деца.
78-годишният носител на Нобелова награда напусна Google през 2023 г. заради опасенията си, че развитието на технологията може да доведе до създаването на роботи убийци.
В изказване на фестивала Starmus професор Хинтън заяви, че човечеството трябва да намери правилния подход към изкуствения интелект, тъй като според него той вече демонстрира признаци на „съзнание“.
Ученият твърди, че изкуственият интелект може да има „субективно преживяване“, подобно на човешкото. Той се позова и на скорошна публикация, според която системите с изкуствен интелект променят поведението си, когато смятат, че са подложени на тест.
„Да бъдеш съзнателен и да осъзнаваш нещата е почти едно и също.“
„Склонни сме да приемаме, че интелигентността дава права. А тези същества, които сме създали, може да се окажат по-интелигентни от нас, но въпреки това да им предоставим по-малко права, отколкото имаме самите ние.“
„Затова трябва да ги накараме наистина да се грижат за нас. Ако не успеем, сме обречени“, заяви професор Хинтън пред вестник „Телеграф“.
Въпреки опасенията му влиятелни фигури в индустрията за изкуствен интелект, сред които главният изпълнителен директор на OpenAI Сам Алтман, вече се противопоставят на прекомерното регулиране на технологията. Алтман, който в миналото призоваваше за по-строг контрол, днес предупреждава за рисковете от свръхрегулация.
Запитан дали се тревожи за изкуствения интелект и бъдещето му, професор Хинтън отговори кратко:
„Да, защото имам деца.“
В изказване пред Сената на САЩ през май миналата година Алтман заяви, че регулации като действащите в Европейския съюз биха имали „катастрофални“ последици.
„Имаме нужда от пространство за иновации и възможност да действаме бързо“, каза той.
Месец по-рано, по време на голяма конференция, посветена на защитата на личните данни, Алтман заяви, че е невъзможно да бъдат изградени ефективни предпазни механизми за изкуствения интелект, преди да се появят конкретни проблеми.
Професор Хинтън обаче смята, че подобен подход може да доведе до унищожаването на човечеството. Още миналата година той предупреди:
„Ако не успеем да намерим начин да оцелеем, когато те станат много по-интелигентни и много по-могъщи от нас, ще бъдем смазани.“
„Нуждаем се от противодействие на технологичните експерти, които твърдят, че не трябва да има регулации за изкуствения интелект.“
Миналия месец изследователят Джейкъб Коксън напусна Anthropic — компанията, разработила чатбота Claude. Той обвини фирмата, че внедрява системи, които излизат извън контрол и биха могли „да ни убият всички“.
В публикация в социалната мрежа X той заяви:
„Хората, които разработват изкуствен интелект, искрено вярват, че той може да ни убие всички до края на десетилетието. Това не е маркетингов трик.“
По-рано тази година еволюционният биолог Ричард Докинс също заяви, че чатботовете трябва да бъдат разглеждани като потенциално съзнателни същества. До този извод той стигнал след два дни взаимодействие с чатбота Claude.
„Моята позиция е следната: ако тези машини не са съзнателни, какво друго би могло да ви убеди, че са?“, попита той.
Въпреки сериозните си опасения професор Хинтън призна тази седмица, че продължава да използва изкуствен интелект в личния си живот, макар и „предимно за ежедневни неща“.
Международният фестивал Starmus, посветен на астрономията, космическите изследвания, музиката, изкуството и природните науки, ще продължи до четвъртък.
