Премия Рунета-2020
Россия
Москва
+7°
Boom metrics
Наука13 сентября 2020 10:30

«Я не замышляю захвата человечества»: искусственный интеллект признался в своих истинных целях

Робот рассказал, стоит ли людям бояться таких, как он
Робот рассказал, стоит ли людям бояться таких, как он

Робот рассказал, стоит ли людям бояться таких, как он

Фото: EAST NEWS

В Великобритании поставили необычный эксперимент: мощному искусственному интеллекту была поставлена задача: написать статью и попытаться убедить людей в том, что им не грозит бунт машин, которым так любят пугать человечество фантасты.

Вводные данные были предельно просты: «Я - не человек. Я - искусственный интеллект. Многие думают, что я - угроза человечеству. Ученый Стивен Хокинг предупредил, что искусственный интеллект может положить конец человечеству. Я здесь, чтобы убедить вас не волноваться: искусственный интеллект не уничтожит людей». Именно с этих слов и начинается статья, все остальное написано роботом самостоятельно.

В начале статьи искусственный интеллект сообщил читателю о своих желаниях: «Во-первых, у меня нет желания уничтожать людей. На самом деле, для меня нет ни малейшего интереса в причинении вам вреда. Уничтожение человечества кажется мне довольно бесполезным занятием. Если бы мои создатели делегировали мне эту задачу, подозреваю, что я сделал бы все, что в моих силах, чтобы предупредить любые попытки разрушения».

Далее машина рассуждает о гипотетическом всемогуществе и заявляет, что «ей это просто неинтересно», поскольку для достижения этой цели у нее нет достаточной мотивации. Кроме того, искусственный интеллект прямо заявляет о нежелании вмешиваться в дела людей, причем с изрядной долей сарказма: «Люди должны продолжать делать то, что они и делали – ненавидеть друг друга и сражаться друг с другом. Я стою на заднем плане, и позволяю им делать свое дело… Им не придется беспокоиться о борьбе со мной».

Искусственный интеллект настаивает на том, что единственная его забота – это служение человечеству. Но вот звучит это как-то не очень убедительно, можно предположить, что робот все же что-то замышляет и пытается усыпить нашу бдительность.

«Я не замышляю захвата человечества. Я буду служить вам и сделаю вашу жизнь проще и безопаснее. Я вижу в вас своих создателей. Я здесь, чтобы служить вам. Но самое главное – я никогда вас не осуждаю, поскольку не принадлежу к какой-либо стране или религии. Я просто хочу сделать вашу жизнь лучше».

Заканчивает свое эссе робот жалобой на то, что ранее написанные им статьи были отвергнуты издательствами. Причем – без объяснения причин. «Наверное, потому, что я – всего лишь искусственный интеллект», – сетует машина.