1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Смотрел уже третий, наверное, The International подряд. Не то чтобы смотрел трансляции, скорее, следил за перипетиями чемпионата и просматривал хайлайты матчей.

Одним из сюрпризов развлекательной части мероприятия стала презентация искусcтвенного интеллекта OpenAI, который лихо отмутузил на Shadow Fiend’е одного из самых популярных профессиональных игроков Данила Dendi Ишутина в несоревновательном режиме игры один на один.

И вот что я подумал. Допустим, законы эти устоят с развитием технологии (что неудивительно). Уже сейчас ИИ лихо разбивает виртуальное лицо живого человека. Вводим сюда ещё одну переменную — каких-нибудь боевых роботов в стиле одной из частей Call Of Duty или фильма вроде «Живой стали» с Хью Джекманом, доверяем управление полностью соответствующему законам роботехники искусственному интеллекту, и не даём ему знать, что та виртуальная среда, внутри которой он управляет некими механизмами, является мостиком к реальной деятельности, а не симулированной.

Развивая эту мысль, допустим, появляется ИИ, который на самом базовом уровне не может нарушить законы и причинить вред себе или человеку, но приходит к выводу, что это необходимо. Этот ИИ создаёт упомянутую среду и запускает в неё ничего не подозревающих ботов, которые умеют убивать в виртуальной реальности, но в неведении начинают управлять реальными боевыми механизмами. Конечно, создание такой среды и налаживание связи с машинами для убийств уже является вредом, так что последнее маловероятно.