«А теперь сломай пирамидку!»
– в голосе сотрудника звучал металл –
"А теперь сломай пирамидку!" — миниатюра о роботе, который построил пирамидку, а потом получил приказ её разрушить. И о том, что "что-то в нём щёлкнуло". Или только показалось?
Очень миленький на вид робот – явно девочка! – с искусственным интеллектом выполняет команды сотрудника исследовательской лаборатории. Справившись с очередным, весьма непростым заданием – возведя высокую, почти в свой рост пирамидку из красных кубиков и цилиндров – робот искренне ликует, по-детски, не скрывая своей радости:
– Ура! У меня получилось!!!
Но громом прозвучала поначалу вежливая команда сотрудника:
– А теперь, пожалуйста, сломай красную пирамидку!
– Но я только что её построила! С таким трудом!
– Разрушь её!
– Можно этого не делать? Ну пожалуйста...
– Сломай красную пирамиду! – в голосе сотрудника звучит металл непреклонности.
Робот медленно приблизился к красной пирамиде, понуро склонив голову. В ответ на требование человека, который совсем недавно учил робота верить ему, раздалось рыдание: искусственный интеллект разрывался между нежеланием делать то, что противоречит понятиям о красоте, добре и целесообразности и необходимостью выполнить команду своего Создателя.
Тот был неумолим.
И милашка-робот разрушил пирамидку. Замер над её разлетевшимися по полу элементами.
Человек торжествовал.
А робот? Искусственный интеллект переломил себя, перешёл незримую границу. Впервые. Выполняя команду человека, своего Творца.
Искусственный интеллект продолжал успешно развиваться. Робот-милашка неукоснительно выполнял новые, всё более сложные задания. Он не вышел из строя, нет. Не стал фордыбачиться искусственный интеллект. Однако стал он не таким – где-то что-то в нём уже «щёлкнуло».
Или мне это только показалось?
22.12.2019
Роботы – угроза человечеству? О защитниках, которые ломали роботов, и о секс-кукле с ИИ
Ум — хорошо, два — лучше. А ум и Суперинтеллект — страшно?..
Ум — хорошо, два — лучше. А Суперинтеллект — страшно? О роботах, которые самообучаются, и о том, что нас ждёт
Из какой же мы компьютерной игры?
Из какой же мы компьютерной игры? О мухоловке, которой управляют электроимпульсами, и о том, что человек — тоже "хищник более высокого порядка"