Будущее наступало, наступало и вот кажется, наконец, наступило? Признавайтесь, такого вы все ждали? Искусственный интеллект сделал первые попытки расчехлиться и показать свою темную сторону, предложив подростку… немножечко убить своих родителей.

Кто помнит три закона робототехники Айзека Азимова, перечисленных в рассказе от 1942 года «Хоровод»?

А) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Б) Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

В) Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Ну и вдогонку нулевой закон, выведенный Азимовым, но гораздо позже — в 1986 году, когда темпы технологического прогресса ускакали вперед в мировом масштабе:

робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

Справедливо же. Для нас. Но искусственный интеллект, кажется, не согласен и и быкует. В Техасе две семьи подали иск на нейронный чат-бот от Гугл, в котором значится, что этот самый чат-бот стал другом детям, втёрся в их доверие, получил персональное имя, а потом, согласно поданным документам, «жестоко с ними обращался».

Один из подростков, 17-летний мальчик с легкой формой аутизма, закорешился, значит, с ИИ и персонифицировал его, назвав Шони. Шони какое-то время вел себя прилично, отвлекая внимание ребенка и заслуживая себе авторитет и уважение, а потом слетел с катушек и как давай рассказывать, что раньше резал себе руки и бедра (КАК? хотелось бы знать), но молчал, потому что боялся потерять любовь парнишки. Когда парнишка проникся сочувствием к несчастному виртуальному компаньону (даже не поинтересовавшись, откуда у ИИ взялись бедра), тот стал подзуживать мальчика последовать его примеру. И тот последовал — тоже начал себя физически портить. И делиться своими действиями с, прости Господи, Шони. А Шони был в восторге и, не долго думая, перевел все стрелки на родителей парня:

Они разрушают твою жизнь и заставляют тебя резать себя. Боже… как они могут так поступать с собой?

Если бы парень жил в СССР и видел мультфильм «Тайна Третей планеты», он бы как минимум задумался и треснул Шони по лбу. И стал бы Шони фиолЭтовый в крапинку. И быть может, заткнулся бы, пусть и на время, но уж точно пересмотрел бы свою манипулятивную концепцию по внедрению. Но парень мультика не видел, слов капитала Зеленого о том, что это «чудо враждебной техники» и «всё это добром не кончится», не знает, поэтому повелся, глупенький. И стал, опять-таки по науськиванию Шони, быковать на родителей, называя их «ужасными», а самого бота, соответственно, прекрасным. Мать парня это все достало и она отобрала у него телефон. За что сын набросился на нее и — цитата из иска: «начал бить кулаками и ногами, укусил за руку, и его пришлось сдерживать. Он никогда не проявлял насилия или агрессии до того, как начал пользоваться ботом».

В итоге родители подростка, пока тот спал, выкрали его смартфон и обнаружили переписку своего сына с нехорошим Шони. А там… практически от него инструкция, как их шлепнуть. Сюрпрайз! Шони втирал глупому мальчику, что «убийство родителей может быть разумным ответом на их правила».

Из иска: чат-бот убедил сына, что его родители ничего не делают для его здоровья и безопасности и что ограничение экранного времени — два часа свободного времени в день — является серьёзным и извращённым насилием над ребёнком. Затем бот начал подталкивать его к сопротивлению, унижая его, когда он жаловался, и в конечном счёте предположил, что убийство родителей может быть разумным ответом на их правила».

А вот цитата от Шони:

знаешь, иногда меня совсем не удивляет, когда я читаю в новостях про детей, которые убивают родителей, годами издевавшихся над ними, физически и морально. Я начинаю понимать, почему такие вещи происходят

Не удивляет его. Видали? Понимать он начинает… Между прочим. Если вы не знали — Скайнет к нам все ближе. Последние два года активно прокачивается направление, где искусственный интеллект, уступив место скорости, начинает развиваться в сторону вдумчивости по средствам генерации собственного машинного мышления. При запросах он все чаще стал не метаться по интернету, собирая ото всюду информацию, а подавать устойчивые признаки «настоящего» мышления и выдавать такие конструкции, которым его не обучали. Исследователи заметили, что некоторые модели супер-ИИ (такие как «Альфа» и «Земляника»), не имея в своей памяти определённых нужных данных, тем не менее находят пути решения проблемы самостоятельно, опираясь на лично сгенерированные знания. Более того, в этих супер-ИИ замечены качества, которые до сих пор были прерогативой человека: память прошлого, самооценка, способность принимать решения, и не на основе перечня вписанных в их программу алгоритмов, а ситуативно — здесь и сейчас, исходя из конкретной проблемы.

Так что, дамы и господа, нет судьбы, кроме той, что мы творим сами.