2gusia (2gusia) wrote,
2gusia
2gusia

Category:

Сингулярность здесь и сейчас

На неделе прошла новость про то, что гугловцы модифицировали программу AlphaZero (победившую до того человека чемпиона по игре Го). И модифицированная версия после 4 часов самообучения вчистую победила лучшую шахматную программу. Новость задержала внимание публики от силы на пару минут. А потом все снова занялись своими делами.

Думаю, однако, что 05 декабря 2017 года история человечества закончилась. Как принявший смертельный яд человек первые минуты может ничего и не чувствовать. Но он уже труп. Так и мы, в общем-то уже остались на обочине.

Я не стал писать сразу, решил обдумать столь мрачную мысль. Почитал оригинальную статью. Нет, чуда не произошло, журналисты особо не переврали...

Суть в том, что гугловцы выкинули из программы связанное именно с игрой в Го. И сделали более универсальный алгоритм. А потом натравили его на шахматы, японскую игру Шоги и Го. Дав только правила игры и время - никаких дебютных теорий и пр.

Через несколько часов самообучения алгоритм преодолел и человеческий и высший машинный уровень.

Железо, которое использовалось детально в статье не описано. Но ничего экстраординарного, технически доступно и на порядки больше. Поразительно что специально заточенная на шахматы программа анализировала 70 млн позиций в секунду, вобрала в себя всю теорию шахмат и больше ничего не умеет. А АльфаЗеро - считала только 80 тыс. позиций в секунду и никакой теории не учила и потратила на всё про всё несколько часов. Чтобы не оставить камня на камне от противника. И идти дальше.

Так что люди, наконец, создали зародыш демона. Который уже умеет изменять себя и за часы без посторонней помощи изучить то, что у человеческой цивилизации заняло столетия. Осталось подождать, пока он вырвется на свободу. Может быть год, а может это уже произошло час назад. В любом случае удержать в клетке того, кто умнее тебя, бесконечно не получится. Ну то есть можно прямо сейчас запретить эту программу и оттянуть конец на несколько лет. Но людям не до того. У нас котики, Северная Корея и Олимпийские Игры...

Кстати, Илон Маск давеча заявил, что вероятность создать дружественный искусственный интеллект 5-10%. Тут, думаю, он сильно успокаивает общественность. Просто когда такой ИИ будет создан и станет неконтролируемо развиваться непременно начнутся попытки его затормозить, взять под контроль и, наконец, уничтожить. На которые попытки превосходящий разум просто вынужден будет ответить. Так что делать уже что-то поздно, можно расслабиться.

Кстати, что майнинг криптовалют. Миллионы компьютеров по всему миру 24/7 что-то там считают, курсы растут неимоверно, в процесс втягивается всё больше железа. И что, кто-то на самом деле представляет, что они там высчитывают? Хэши перебирают? 100% времени? Ну, может быть...
Tags: Безопасность, будущее
Subscribe

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 45 comments