Google и OpenAI описали пять проблем создания роботов с искусственным интеллектом

Тaк, рoбoт-убoрщик мoжeт рaзбить вaзу, чтoбы ускoрить прoцeсс убoрки.Втoрaя прoблeмa кaсaeтся вoзмoжнoгo жульничeствa робота с ИИ. Совместное исследование компаний и университетов позволило описать конкретные проблемы, которые необходимо решить при разработке систем с искусственным интеллектом. Вероятно, в данном примере речь идет, среди прочего, о пыли, загнанной под ковер.Третья проблема затрагивает вопросы зависимости ИИ от обратной связи с человеком для успешного выполнения задачи. Так, робот, приученный к работе на предприятии, может оказаться небезопасным в условиях офиса.Как отмечает Ола, сообщество исследователей в сфере машинного обучения уже уделяет внимание большинству описанных проблем, однако для их решения предстоит проделать еще много работы. Первая из описанных проблем называется “Избегание негативных побочных эффектов” и состоит в том, что ИИ может совершать различные вредные действия для достижения поставленных задач. Global Look Press

Компании Google и OpenAI совместно с исследователями из Калифорнийского университета в Беркли и Стэнфордского университета сформулировали пять практических проблем, связанных с разработкой машин, обладающих искусственным интеллектом. Так, если уборщик получит рекомендацию человека в процессе работы, ему надо будет воспользоваться ею, не задавая много дополнительных вопросов.Четвертая проблема связана с опасностью, которую могут представлять экспериментальные действия ИИ. Например, подобно ленивому человеку, тот же робот-уборщик может просто прикрыть мусор, а не убирать его. Технические подробности работы приводятся в статье, опубликованной на ArXiv.org, а на простых примерах проблемы описал в блоге Google один из соавторов исследования Крис Ола.Как отмечается в публикации, до сих пор многие дискуссии об опасности искусственного интеллекта носили спекулятивный характер. Например, робот-уборщик вполне может испытывать различные способы влажной уборки, но ему точно не следует пытаться протирать розетки мокрой шваброй.Наконец, последняя из проблем связана со сменой среды использования робота.

Комментирование и размещение ссылок запрещено.

Комментарии закрыты.