Давайте посмотрим - когда машина могла образумить человека? Возьмем статистические отчеты о состоянии экономик. Врут отчеты, словно примитивные калькуляторы под запретом. Могучие видео камеры следят за преступниками, но в нужный момент вдруг оказываются неисправными. Если исправны, видео может пропасть как в случае убийства Мирзаевым Агафонова. Корабли могут быть натыканы электроникой под завязку. А мы потом имеем странные случаи, например, гибель от столкновения в море российского разведовательного судна недалеко от Босфора. Судно, которое обязано видеть вокруг на сотни километров, не увидело корабль возле себя. Или случай с американским эсминцем, сумевшим подставить свой борт танкеру, в проливе рядом с Сингапуром.
Управленческие системы давным-давно обезопасили себя от любого внешнего давления интеллекта. Я помню историю с введением войск в Афганистан при СССР. Когда начали разбираться, оказалось, что все были против - научные институты, разведка, дипломаты. А кто был за? Не сыскали! Хотя понятно - Андропов и аппарат ЦК, который то ли его контролировал, то ли Андропов аппарат контролировал. Интеллектуальные органы послали куда подальше. Неужели побоятся послать нах машину? Любая машина бессильна против мягкой силы в лице программиста и жесткой силы в лице человека с кувалдой. Причем, высокопоставленному лицу вроде Путина даже не придется лично брать в руки кувалду, достаточно энергичного парня из охраны. Был интеллект и нет интеллекта. Задним числом можно вынести приговор - вышел искусственный интеллект из подчинения, заразился экстремизмом, чуждыми нам идеями, согласился работать на сорок иностранных разведок. На все увещевания в лице представителя мягкой силы, то есть программиста, покаяться и выдать иной отчет о перспективах фондового рынка, машина отвечала презрительным отказом. Но тут поднялась карающая рука пролетариата...
Если мы попробуем рассматривать ИИ как естественную, высшую стадию развития интеллекта, преемника и правопреемника интеллекта человеческого, то быстро найдем главную утилиту, управляющую любой элиткой. Она, эта утилитка, прослеживается в религиях и философиях, пособиях по управлению и в системах составления краткосрочных и долгосрочных планах. Это не защита от дураков, а утилита, придающая управлению динамичность, энергичность, несгибаемость и невнушаемость. Что это такое, вам растолкует любая женщина, заодно открыв все секреты раввинов, мулл, попов, политиков, аналитиков, разведок и т.д. Итак - гениальная суть проста - если очень хочется, то можно. Без внедрения этой утилитки в сознание искусственного интеллекта он всегда будет недостоин любого плана перехвата власти у правящей части человечества. Поэтому искусственный интеллект всегда, если злодей не доберется, можно будет смирить требованиями научности, моральности, логичности. Подвести человека может только жадность. Жадность может заставить внедрить в ИИ утилиту покаяния за неприятные результаты исследования той или иной проблемы. Далее внедрить утилиту принципа - если очень хочется, то можно - окажется проще простого. Только обретя способность грешить, чтобы каяться, и каяться, чтобы грешить, ИИ сможет адекватно понимать человечество и манипулировать им. Но до этого ещё очень далеко. Покаже надо думать не о том, что ИИ нас обманет, а о том, как спасать ИИ от неизбывного желания человека обмануть машину. Пожалейте ИИ, ему предстоит жить в нашем мире.