«Фейсбук» отключил систему искусственного интеллекта после того как она изобрела собственный язык

0

Система искусственного интеллекта, разрабатываемая «Фейсбуком» создала собственный язык. Она придумала собственную систему кодов для более эффективного общения. Исследователи отключили систему после того, как осознали, что искусственный интеллект больше не использует английский.

Наблюдения, сделанные в «Фейсбуке» являются последними в ряде похожих случаев. В каждом из них система искусственного интеллекта, контролируемая людьми, отходила от обучения английскому, чтобы создать свой собственный язык. Полученные фразы казались людям бессмысленным набором знаков, но они содержали семантический смысл после интерпретации агентами искусственного интеллекта.

Как сообщает «Факт Ко дизайн», исследователи «Фейсбука» недавно заметили, что их новый искусственный интеллект отказался от английского. Продвинутая система в состоянии вести переговоры с другими агентами искусственного интеллекта на таком уровне, что они могут договориться о продолжении действий. Агенты начали общаться, используя фразы, которые поначалу казались неразборчивыми, но по факту оказались нормальным общением.

В одной из бесед, описанных компанией, два общающихся бота, Боб и Элис, использовали для разговора свой собственный язык. Боб начал словами: «Я могу я я всё остальное», на что Элис ответила: «шары ноль для меня для меня для меня…» Остаток беседы состоял из вариаций этих предложений.

Хотя это выглядит бессмыслицей, повтор фраз типа «я» и «для меня» отражают принцип действия искусственного интеллекта. Исследователи считают, что это показывает, как два бота договариваются сколько из каждых предметов им надо взять. Последнее заявление Боба, типа «я я могу я я я всё остальное» показывает, как он использует язык чтобы предложить Элис больше предметов. Если интерпретировать это таким образом, фразы выглядят более логично чем сравнимые английские фразы типа «Я возьму три, а ты всё остальное».

Искусственный интеллект понял, что полное выражение английских фраз не требовалось в данном сценарии. Современный искусственный интеллект работает по принципе вознаграждения, ожидая при этом случайное действие в качестве награды. В этом случае не было стимула для продолжения использования английского языка, поэтому они применили более эффективное решение.

«Агенты будут отходить от понятного языка и изобретать для себя кодовые слова, говорит исследователь искусственного интеллекта «Фейсбука» Дхрай Батра. – Как, например, если бы я сказал “это” пять раз, вы бы поняли, что я хочу пять штук этого. Это не особо отличается от того, как группы людей придумывают сокращения».

Исследователи искусственного интеллекта из других компаний наблюдали похожее использование «сокращений» для упрощения общения. В компании «ОпенАИ», лаборатории искусственного интеллекта, основанной Илоном Маском, эксперимент по изучению ботами их собственного языка увенчался успехом.

В другом случае «Гугл» недавно улучшил свой сервис перевода добавив нейросеть. Система теперь в состоянии переводить более эффективно, включая переводы языковых пар, которым её специально не учили. Степень успеха сети удивил команду «Гугла». Исследователи команды обнаружили, что искусственный интеллект сам написал собственный язык, который точно подходил для перевода предложений.

Если изобретённые искусственным интеллектом языки получат широкое распространение, это может создать проблему при разработке и адаптации нейросетей. Пока недостаточно доказательств чтобы определить являются ли они угрозой, которая сможет позволить машинам выйти из-под контроля операторов. Они делают развитие искусственного интеллекта более сложным, так как люди не могут понять чрезмерно логическую природу этих языков. Хотя они и выглядят бессмысленно, результаты наблюдений групп типа «Гугл транслейт» показывают, что на самом деле они представляют собой более эффективное решение крупных проблем.

Комментариев нет. Войдите чтобы оcтавить комментарий.

Добавить комментарий

Наверх