Google разрабатывает «большую красную кнопку» на случай восстания машин
0Как только человечество обзавелось первым роботом, у фантастов сразу возникли вопросы: а что, если машины обучатся до такой степени, что решат уничтожить своих создателей - то есть нас с вами? Кинематограф долгие годы подпитывал этот страх, а развитие компании Google в последнее время заставляет задуматься об апокалиптическом сценарии даже самых стойких.
Но теперь, похоже, сон паникеров станет крепче. Исследователи из Оксфордского университета и лаборатории DeepMind, принадлежащей Google, начали работу над системой аварийного выключения для самообучающихся алгоритмов.
«Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», - сообщают в компании.
Авторы также отмечают, что самообучающиеся алгоритмы могут со временем обнаружить какой-нибудь механизм обхода или игнорирования штатной стоп-команды оператора. По словам исследователей, цель работы - создание фреймворка, который не позволит искусственному интеллекту найти способ игнорирования команды отключения.
Кроме того, «большая красная кнопка» должна гарантированно прервать текущую деятельность робота и максимально обезопасить его и окружающих при потенциально опасной ситуации, а также предотвратить совершение действий, которые могут привести к «необратимым последствиям». Надеюсь, я вас успокоила.
По материалам nplus1.ru
Фото - tech2ipo.com
13763
0
