Учени: Изкуственият интелект не е приятел!

Милиони хора формират емоционални връзки с чатботове с изкуствен интелект (ИИ/AI)- проблем, който политиците трябва да вземат насериозно, според водещи учени, цитирани от "Политико".

Предупреждението за нарастване на броя на ботовете с изкуствен интелект, предназначени да развиват връзка с потребителите, идва от оценка, публикувана във вторник, относно напредъка и рисковете от изкуствения интелект.

"ИИ компаньоните нараснаха бързо по популярност, като някои приложения достигнаха до десетки милиони потребители", според оценката на десетки експерти, предимно академици - завършена за втори път в рамките на глобално усилие, стартирано от световните лидери през 2023 г.

Специализирани услуги за компаньони като Replika и Character.ai имат брой потребители от десетки милиони - като потребителите посочват различни причини, включително забавление и любопитство, както и за облекчаване на самотата, се казва в доклада.

Но хората могат да търсят компания и от инструменти с общо предназначение като ChatGPT на OpenAI, Gemini на Google или Claude на Anthropic.

"Дори обикновените чатботове могат да станат компаньони", каза Джошуа Бенджио, професор в Университета в Монреал и водещ автор на Международния доклад за безопасност на изкуствения интелект. Бенджио се смята за един от водещите световни гласове по въпросите на изкуствения интелект. "В правилния контекст и с достатъчно взаимодействия между потребителя и изкуствения интелект може да се развие връзка", каза той.

Въпреки че оценката признава, че доказателствата относно психологическите ефекти на компаньоните са смесени, "някои проучвания отчитат модели като повишена самота и намалено социално взаимодействие сред честите потребители", се казва в доклада.

Предупреждението идва две седмици след като десетки законодатели на Европейския парламент оказаха натиск върху Европейската комисия да проучи възможността за ограничаване на услугите за компаньони съгласно законодателството на ЕС за изкуствения интелект на фона на опасения относно тяхното въздействие върху психичното здраве.

"Виждам в политическите среди, че ефектът от тези компаньони с изкуствен интелект върху децата, особено подрастващите, е нещо, което буди много вежди и внимание", каза Бенджио.

Притесненията се подхранват от "услужливия" характер на чатботовете, които се стремят да бъдат полезни на своите потребители и да им угодят максимално.

"Изкуственият интелект се опитва да ни накара в момента да се чувстваме добре, но това не винаги е в наш интерес", каза Бенджио. В този смисъл технологията има подобни капани като платформите за социални медии, твърди той.

Бенджио каза, че се очаква да бъдат въведени нови разпоредби за справяне с феномена.

Той обаче се противопостави на идеята за въвеждане на специфични правила за ИИ компаньоните и заяви, че рискът трябва да се адресира чрез хоризонтално законодателство, което разглежда няколко риска едновременно.

Докладът за международната безопасност на ИИ се публикува преди световна среща на върха, започваща на 16 февруари, годишна среща за страни, на която ще се обсъди управлението на технологията, която тази година се провежда в Индия.

Докладът от вторник изброява пълния набор от рискове, с които политиците ще трябва да се справят, включително кибератаки, задвижвани от ИИ, генерирани от ИИ сексуално експлицитни дийпфейкове и системи с ИИ, които предоставят информация за това как да се проектират биологични оръжия.

Бенджио призова правителствата и Европейската комисия да подобрят вътрешната си експертиза в областта на изкуствения интелект, за да се справят с дългия списък от потенциални рискове.

Световните лидери за първи път дадоха мандат за годишната оценка на срещата на върха за безопасност на изкуствения интелект през 2023 г. в Обединеното кралство. Някои от съветниците са известни фигури в света на технологичната политика в Брюксел, включително бившият депутат от Европейския парламент Маритже Шааке.