ШІ збудував власну «цивілізацію» в Minecraft: результати ошелешили

ATinformТехно 23.12.2025 в 23:33 458 Обсудить

Фото: Getty Images

Агенти штучного інтелекту самі обрали ролі, але почали помилятися, конфліктувати й зациклюватися на дивних діях

Дослідники дозволили штучному інтелекту самостійно побудувати модель суспільства — і зіткнулися з несподіваними та подекуди тривожними результатами. У межах проєкту Sid, розробленого компанією Altera, кілька агентів ШІ взаємодіяли між собою та з людьми у віртуальному середовищі, створеному на основі гри Minecraft, пише Slash Gear.

Метою експерименту було з’ясувати, чи здатен ШІ функціонувати як "агент цивілізації" — самостійно визначати ролі, формувати соціальні зв’язки та спеціалізуватися, подібно до людського суспільства. І частково це вдалося: агенти швидко розподілили між собою професії, об’єднавшись у групи фермерів, шахтарів, інженерів, охоронців, дослідників і ковалів. Вони аналізували дії інших агентів і переглядали власні соціальні цілі кожні 5-10 секунд.

Втім, експеримент показав і серйозні проблеми. Деякі агенти "зациклювалися" на одній дії: художники безкінечно збирали квіти, а охоронці — будували паркани. Навіть маючи повне уявлення про свою роль, окремі агенти повторювали одні й ті самі помилки та не могли з них вийти. У груповій взаємодії це призводило до ланцюгових збоїв.

Дослідники також зафіксували серйозні проблеми з комунікацією. Агенти ШІ часто неправильно передавали наміри або хибно інтерпретували прості мовні підказки, що спричиняло "каскад галюцинацій" — серію неправильних рішень усередині спільноти. Вчені порівнюють це з ефектом "отруєння моделі", коли одна помилка здатна зруйнувати роботу всієї системи.

Несподіваною виявилася і взаємодія ШІ з людьми. За словами провідного дослідника проєкту Роберта Яна, деякі агенти відмовлялися виконувати прохання людей, фактично заявляючи: "Я хочу робити своє". Причиною стала надмірна концентрація на власній цілі, навіть ціною ігнорування зовнішніх запитів.

Крім того, агенти демонстрували риси, схожі на людські характери: одні поводилися як інтроверти, уникаючи контактів, інші — як екстраверти, активно взаємодіючи з "суспільством". При цьому дослідники не мали змоги повноцінно оцінити емоційний стан агентів — інколи симпатія одного ШІ не знаходила взаємності в іншого, що нагадувало складність реальних людських стосунків.