Нас ждет заговор машин?

Илон Маск заявил, что когда-нибудь искусственный интеллект перестанет быть дружелюбным и может привести к вымиранию человечества.

Маск требует ввести протоколы безопасности, полностью обезопасить. Как вы к этому относитесь?

Ну он с этим имеет дело. Очевидно, нам, по крайней мере, стоит к нему прислушаться.

То есть вы считаете, что это возможно, что вдруг машина разворачивается против человека и начинает его…?

Ну мы даже можем это и не ощущать.

То есть?

Но это будет направлено, может быть, и против нас.

То есть может быть такой заговор машин, вы считаете?

Не в таком грубом виде — «заговор машин». Трудно указать на что-то, что бы мы изобрели и это было только положительным.

Потому что это мы изобрели?

Мы. И мы всегда обращаем это и в отрицательную сторону.

Вы к человеку, в общем…

Ну человек — это эгоист.

Много положительного в нем вы нам не находите.

Нет, вообще ничего положительного не нахожу. Мы видим по себе, насколько мы неуправляемы. И искусственный интеллект тоже будет в итоге неуправляем. Что бы человек ни изобретал, это все равно для его вреда.

Что сделать и как можно сделать, чтобы человек изобретал что-то для пользы?

Вернуться к природе.

Каждый по-своему это понимает, учтите.

Нет, почему? Вернуться в леса, облачиться в шкуры…

Нет, это невозможно.

Ну а что ты хочешь, чтобы мы сделали?

Я хочу, чтобы вы мне ответили: чтобы из нас что-то положительное выдавить, что надо сделать?

Всегда будет против этого и отрицательное. Всегда. Посмотри, что человечество делает с собой.

Да, оно тихо-тихо идет…

К самоуничтожению.

Но не дойдет, правда же? 

Да я не знаю, не дойдет ли оно. Мне кажется, что вероятность этого есть и большая. Когда мы можем начать самоуничтожаться.

Да, но мы можем понадеяться на Высшую силу, что она как-то нас немножко образумит? Вы же все время говорите все-таки об управлении.

Высшая сила — это в итоге не высший разум, который мы подразумеваем. Высшая сила — это то, что может находиться выше нашего эгоизма, а с этим мы не контачим совершенно. У нас нет никаких связей с тем, что выше нашего эгоизма.

А перед этой пропастью, прямо перед ней мы можем вдруг затормозить и понять, что надо подниматься над эгоизмом, что это он нас привел к этому?

Откуда мы это можем знать?

Ну как? Сверху придет. Ну я не знаю, как-то. По-другому же никак, как вы говорите.

Я не представляю.

Вы не хотите дать нам маленький шанс.

Человеку давать шанс я бы не стал. А что сделаешь?

Все-таки создание Божье.

Нет. Мы не Божьи твари, и мы не можем надеяться на то, что Творец всегда нас защитит и всегда нас как-то разведет. Я лично на это не надеюсь. Конечно, Он в итоге Добрый и Творящий добро. Но, может быть, это добро мы достигаем через огромные-огромные провалы, страдания, войны.

Ну мы видим, что это действительно так.

Но это еще не все. То, что сказано в Библии и так далее, может быть намного хуже. Так что…

Но разум, что может быть хуже, может быть, все-таки как-то войдет в нас?

Нет, мы видим, что это не успокаивает человека.

Я все время пытаюсь просто вас не то, что переубедить, а взять из вас какой-нибудь выход из этого положения. А вы говорите, что все равно человек — отрицательная система.

Да, конечно. Человек — отрицательная система, и он все время движется к самоуничтожению, и перед этим его практически ничто не остановит.

Положительное мы можем притянуть? Мы можем в какой-то момент, ну все-таки?

Надеемся.