Искусственный интеллект научили воспринимать информацию со скепсисом

Искусственный интеллект научили воспринимать информацию со скепсисом
Фото: depositphotos.com
Чтобы сделать ИИ устойчивым к противоречащим данным, исследователи попытались внедрить защиту для контролируемого обучения
Исследователи Массачусетского технологического института разработали алгоритм, который учит системы искусственного интеллекта относиться к вводным данным скептически, сообщает сайт института.

Чтобы сделать ИИ устойчивым к противоречащим данным, исследователи попытались внедрить защиту для контролируемого обучения, объединив алгоритм обучения данными с глубокой нейронной сетью, которая используется, например, для обучения машины игре в Го или шахматы.

Обычно нейронную сеть учат связывать определенные понятия с заданными входными данными. Например, если скормить нейронной сети тысячи изображений с метками "кошка", то вместе с изображениями с метками "дом" и "хот-дог", машина с легкостью сможет определить кошку, попадая на изображение с соответствующей меткой. Однако, такой способ довольно трудоемкий и занимает много времени, поэтому исследователям нужно было найти способ, как заставить ИИ принимать решения в режиме реального времени, основываясь на наихудших предположениях.

Поэтому команда решила опираться на форму машинного обучения, которая не требует связывания помеченных входных данных с выходными, а скорее направлена на усиление определенных действий в ответ на входные данные. Другими словами, ученые придумали, как заставить машину анализировать свои правильные и неправильные ответы.

Для теста они использовали простейшую видеоигру пинг-понг, в которой два игрока управляют ракетками по обе стороны экрана, чтобы отбивать мяч на сторону противника. Однако исследовали сделали небольшую корректировку, сместив мяч на несколько пикселей, от реальной траектории, а машина должна была понять, когда мяч двигается правильно, а когда ее пытаются обмануть

Новый алгоритм справился с задачей значительно лучше своих предшественников, отмечают ученые.
Аватар Skibair Ирина Скиба / Skibair
Журналист ATinform

10.03.2021 в 21:42
0.0 из 5 // 0 искусственный интеллект, скепсис
Комментариев нет. Будь первым!
Оставляя комментарий на нашем сайте, пожалуйста, помните о том, что содержание и тон Вашего сообщения могут задеть чувства реальных людей, непосредственно или косвенно имеющих отношение к данной новости. Проявляйте уважение и толерантность к своим собеседникам даже в том случае, если Вы не разделяете их мнение. Пользователи, которые систематически нарушают правила, а также размещают спам — будут заблокированы!
avatar