Выбор редакции

Суперинтеллект и проблема останова

22 июля, 2016. 02:07
В споре — конечно, теоретическом, ибо никто такое по сию пору не построил — о возможности удержать суперинтеллект «в узде», гарантировать его безопасность для человека, давно наблюдается редкостная свалка. Одна сторона обвиняет другую в нежелании мыслить глобально и стратегически, та напирает на безграмотность соперников в деталях, и всё это щедро приправлено авторитетными именами, эмоциями, паническими настроениями… Собственно всё это вы знаете и сами, если следите за дискуссией. Но вам будет интересно узнать, что в старом споре прозвучала новая нотка: всплыл аргумент, который никогда не использовался широко, если использовался вообще. Речь о доказательстве нашей неспособности контролировать поведение суперинтеллекта, сделанное через теорему, сформулированную ровно 80 лет назад не кем иным, как Аланом Тьюрингом. В этой области он работал не один, но именно его взгляд на проблему вошёл в историю — благодаря вспомогательному инструменту, затмившему славой саму теорему. Инструментом этим была так называемая машина Тьюринга. А сама теорема носит название «проблемы останова» (по крайней мере с некоторых пор её так называют).
Комментарии: