Может стать умнее людей всего за пять лет: чего боятся специалисты по ИИ

Фото: Getty Images

Более 350 исследователей и инженеров недавно выступили с предупреждением о том, что ИИ представляет опасность, сравнимую с рисками "пандемий и ядерной войны". Ученые опасаются, что искусственный интеллект станет настолько сверхразумным и мощным, что станет автономным и вызовет массовые социальные потрясения или даже уничтожение человечества, сообщает The Week.

В опросе экспертов средняя вероятность того, что искусственный интеллект вызовет вымирание или "серьезное лишение человеческого вида", составила 1 к 10.

"Это не научная фантастика", — сказал Джеффри Хинтон, которого часто называют "крестным отцом ИИ", который недавно покинул Google, чтобы предупредить о рисках, связанных с ИИ. "Многие умные люди должны приложить много усилий, чтобы выяснить, как мы справимся с возможностью того, что ИИ возьмет верх".

Когда это может произойти?

Хинтон раньше думал, что опасность минует не менее, чем через 30 лет, но говорит, что ИИ развивается в сверхразум так быстро, что может стать умнее людей всего за пять лет. ChatGPT на базе искусственного интеллекта и чат-бот Bing уже могут сдать экзамены на получение лицензии на адвоката и медицинскую лицензию, включая разделы эссе, а в тестах IQ набрать 99% — уровень гениальности. Хинтон и другие предсказатели беды опасаются того момента, когда "искусственный общий интеллект" или ОИИ сможет превзойти людей практически в любой задаче.

Являются ли эти сценарии надуманными?

Некоторые эксперты весьма скептически относятся к тому, что ИИ может вызвать апокалипсис. Они говорят, что наша способность использовать ИИ будет развиваться так же, как и ИИ, и что идея о том, что алгоритмы и машины будут развивать собственную волю, — это преувеличенный страх, навеянный научной фантастикой, а не прагматическая оценка технологических рисков.

Так что нам делать?

Это предмет жарких споров среди экспертов по искусственному интеллекту и государственных чиновников. Есть ученые, которые призывают полностью прекратить исследования ИИ. Невероятная способность ИИ связывать воедино все человеческие знания, обнаруживать закономерности и корреляции и находить творческие решения, скорее всего, принесет много пользы в мире, от лечения болезней до борьбы с изменением климата. Но создание интеллекта, превосходящего наш собственный, также может привести к более мрачным последствиям.

"Ставки не могут быть выше. Как вы навсегда сохраняете власть над сущностями, более могущественными, чем вы?", — сказал ученый-компьютерщик Стюарт Рассел.

Ирина Скиба / Skibair
Журналист ATinform