Сможет ли искусственный интеллект подчинить себе людей?

Не может быть, чтобы мы создали искусственный интеллект, а он задумает подчинить нас себе. Для такого нужен разум, находящийся на более высокой ступени, а его пока что не существует, да и не предвидится.

Однако люди играют в это, их занимает эта идея, им это нравится. Это в какой-то мере круто, но не более того.

Захотят ли эти машины установить контакт друг с другом, чтобы уничтожить именно людей? Ну, если мы в них заложим такую программу, то да. А если не создадим такую программу, то нет.

Все равно все будет действовать согласно нашей программе, мы – программисты.

Нужно опасаться не создания искусственного интеллекта, а тех, кто разрабатывает этот искусственный интеллект. Они могут заложить в него такие возможности, что люди будут уничтожены.

В нас заложена программа, работающая лишь в эгоистической форме – только получать, получать, получать все, все, все, что кажется приносящим нам пользу.

Но если мы разработаем также и обратную программу – отдавать, отдавать, отдавать во благо другим, то между этими двумя программами мы сможем создавать всё, что угодно. Тогда у нас действительно появится уникальный искусственный интеллект.

Но для этого нам надо сначала создать тот второй механизм – обратный нашему. К этому мы и должны прийти.