Легендарният учен и носител на Нобелова награда по физика за 2024 г. заявява, че надпреварата за суперинтелигентен AI между държави и корпорации прави бъдещето още по-несигурно. Според него технологиите, по-умни от хората, ще могат да ни манипулират.
Джефри Хинтън, известен като „кръстникът на изкуствения интелект“, предупреждава: Има 20% вероятност AI системи да надминат човечеството и да излязат извън контрол.
В интервю за CBS News, 77-годишният Хинтън призна, че е „донякъде доволен“ от възрастта си, тъй като може би няма да доживее моментa, в който изкуственият интелект ще се превърне в опасност за света.
„Неща, които са по-интелигентни от теб, ще могат да те манипулират,“ казва той. Според него, ако веднъж AI достигне суперинтелигентност, човечеството няма да има механизъм да го контролира.
Хинтън, чиято работа в машинното обучение революционизира сферата и го превърна в едно от най-влиятелните имена в технологиите, напусна Google през 2023 г., за да може да говори свободно за рисковете. През 2024 г. той получи Нобелова награда по физика за приноса си към развитието на изкуствения интелект.
„Отглеждаме тигър, който един ден може да ни убие“
Ученият сравнява развитието на AI с отглеждането на тигърче:
„Толкова е сладко, докато е малко. Но ако не си сигурен, че когато порасне, няма да иска да те убие – трябва да се тревожиш.“
Той определя вероятността от това AI да излезе извън контрол между 10% и 20%, но признава, че е невъзможно да се предвиди с точност. Един от основните му страхове е свързан с появата на автономни AI агенти, които не просто отговарят на въпроси, а изпълняват задачи без човешка намеса.
„Днес ситуацията е дори по-страшна, отколкото беше преди година“, казва Хинтън. Според него, преди смяташе, че суперинтелигентният AI ще се появи след 5 до 20 години. Сега вече вярва, че може да е въпрос на по-малко от 10 години.
Надпревара без спирачки
Хинтън е особено обезпокоен от глобалното състезание между технологичните гиганти и държавите. Според него:
„Много е, много е малко вероятно човечеството да устои на изкушението да създаде суперинтелигентност. Всички гонят следващото лъскаво нещо.“
Той е особено разочарован от компании, с които е работил. Посочва, че е „много разочарован“ от Google, след като компанията е променила позицията си относно военната употреба на AI.
„Днес не бих работил за нито една от тях,“ добавя той.
Хинтън в момента е професор емеритус в Университета в Торонто. Той продължава активно да изказва мнението си относно рисковете от напредващата AI революция, като настоява за глобална регулация и по-висока етична отговорност.
С нарастващото влияние на автономните AI системи, думите му звучат все по-настойчиво: „Въпросът не е дали ще го направим, а дали ще успеем да го направим така, че никога да не иска да поеме контрола.“
