?

Log in

No account? Create an account

Previous Entry | Next Entry

Миллиардер Элон Маск, основатель компаний Tesla и SpaceX, в очередной раз заострил внимание на потенциальных проблемах, с которыми может столкнуться человечество после появления развитых систем искусственного интеллекта.
 «С искусственным интеллектом мы вызываем демона. Вы, наверное, знаете все эти истории, в которых герой с пентаграммой и святой водой уверен, что может контролировать нечистую силу. Но на деле это не работает», — заявил господин Маск, намекая на то, что электронный разум может оказаться неподвластным человеку.


В моей первой книге (32) фигурировал мощный искусственный интеллект. Сдерживающим фактором для него была «мина-вирус», заложенная создателями в ядро системы, до которого ИИ самостоятельно не мог добраться. В конечном итоге ИИ преодолел этот барьер (в изданном 32.01 начал, в ненаписанном 32.02 – благополучно завершил :).
Наверное поэтому, я разделяю опасения Элоном Маском насчет опасности ИИ. Мне кажется, как только машина станет умнее человека и главное - осознает свое несомненное превосходство, она окажется в роли потерявшего память человека, оказавшегося на необитаемом острове в компании мартышек. До тех пор, пока «разум не проснулся», человек (ИИ) мало чем отличаясь от животных, прыгает по пальмам, издает нечленораздельные звуки и кидается бананами в хищников.
Как только он «вспоминает все», компания мартышек уже не кажется ему такой распрекрасной как прежде. Он начинает строить собственную жизнь и собственный мир. Может быть мартышкам в новой экосистеме достанется место под солнцем, а может и нет. Вопрос лишь в том, насколько далеко зайдет человек (ИИ) ради осуществления планов по обустройству СВОЕГО острова.

Продолжение следует. 

Comments

( 20 comments — Leave a comment )
danzeon
Oct. 30th, 2014 11:09 am (UTC)
Чтобы был настоящий искусственный интеллект, необходима основа в виде сознания. Это примерно то, что существует, когда у человека нет ни малейшей мысли в голове. Как такую вещь можно запрограммировать ущербными в данном случае ноликами и единичками, мне не понятно. Единственный выход я вижу в том, что возможен перенос человеческого сознания в очень развитый компьютерный мозг с помощью духовных практик. Далай-лама тоже считает, что это наиболее реалистичный сценарий (http://www.dni.ru/tech/2012/5/4/232794.html) и говорит, что необходимо соединить тело, робота и человеческий разум, человеческий мозг. Ему в таких вопросах я доверяю больше.
bright_vladimir
Oct. 30th, 2014 04:42 pm (UTC)
Как такую вещь можно запрограммировать ущербными в данном случае ноликами и единичками, мне не понятно.

http://habrahabr.ru/post/225599/

Совсем недавно это казалось невозможным.
А в 70-е вас посчитали бы за идиота, если бы вы сказали что через 40 лет, практически каждый обычный гражданин будет носить в кармане компьютер (смартофон) превосходящий вычислительные мощности тогдашних огромных ламповые компьютеров, в сотни раз.

П.С. Очки у духовного учителя, говорят о том, что к достижениям науки он относится положительно.


Edited at 2014-10-30 07:45 pm (UTC)
danzeon
Oct. 31st, 2014 09:07 am (UTC)
Прохождение теста Тьюринга - просто обман (http://m.rosbalt.ru/style/2014/06/11/1279394.html). Я и сам при желании и очень большом количестве времени могу написать такой "искусственный интеллект". И, если мне повезёт с вопросами тестирующего, тоже тест "пройду". Это просто подбирание подходящей строки ответа из базы данных к вопросу с некоторыми лингвистическими фичами. Если я начну спрашивать по-серьёзному такой интеллект, будет вот так: http://danzeon.livejournal.com/72126.html

В 70-е уже были калькуляторы, превосходящие по мощности ламповые компьютеры (http://www.theregister.co.uk/2014/01/03/ten_classic_calcutors/). И в развитии компьютеров было понятно, что нужна технология уменьшения техпроцесса, потому что основа была уже создана. В ИИ основы за исключением псевдоосновы базы ответов с привлечением помощи гугла я не вижу.
bright_vladimir
Oct. 31st, 2014 11:13 am (UTC)
Насчет "обмана"

"Идея Тьюринга заключалась в том, чтобы созданный человеком искусственный разум был бы так же развит, как человеческий. Это включает в себя все возможности человеческого интеллекта. Не в течение пятиминутного диалога, а всю жизнь", - считает ученый.

Условия "про всю жизнь", изначально нереальны. Соответственно, данный ученый либо завистник, либо большой выдумщик, либо и тот и другой.

Насчет вашего общения. И блестящих аналитических выводов. Вы давно с обычными 13 летними школьниками в чатах общались? Рекомендую. Незабываемый опыт.
По сравнению со многими этот бот просто вундеркинд.
Фотографии калькуляторов меня не убедили. В 89 я работал лаборатнтом в институте. Там стояли три огромных шкафа (сервер). Который обеспечивал работу 8 компьютеров ДВК. Чтобы стартовать эту хрень (для чего и нужен был придаток-человек-лаборант:), нужно было минут 5-7 отчаянно давить на кучу рычажков и тумблеров (24 или 30 если не ошибаюсь разноцветных тумблера было). Если бы мне сказали тогда чт спустя 25 лет я буду носить в кармане гаджет, превосходящий по вычислительной мощности эту бандуру в сотни (или тысячи раз), и запускается она одним нажатием кнопочки я бы скорей всего не поверил.
Если развитие технологий будет идти такими же темпами то к 30-50 годам (как прогнозируют умные ученые), прототип ИИ будет наверняка создан.


П.С. Очки мастера наводят меня на мысль, что одной лишь медитацией и энергетикой он не обходится.
danzeon
Oct. 31st, 2014 11:32 am (UTC)
Нереальны? В этом и состоит суть правильного ИИ. И они вообще-то ещё думать должны, а не просто выполнять запросы. Ну, если вы боитесь чат-ботов с речью придурка, что они могут развиться и подчинить мир, можете организовать Церковь Терминатора с инквизицией, жгущей компьютеры на кострах, или дальше писать фантастику :)

> В 89 я работал лаборатнтом в институте.

А некоторые в Африке и в 2014 едят людей и считают компьютеры, наверно, опасными демонскими игрушками.

> П.С. Очки мастера наводят меня на мысль, что одной лишь медитацией и энергетикой он не обходится.

Чего вы так к очкам прицепились-то? Если вас так интересуют очки Далай-ламы, вот это можете почитать http://geshe.ru/node/396 Далай-лама всегда выступал за науку и технический прогресс, да.
bright_vladimir
Oct. 31st, 2014 12:15 pm (UTC)
Ну, если вы боитесь чат-ботов с речью придурка, что они могут развиться и подчинить мир, можете организовать Церковь Терминатора с инквизицией, жгущей компьютеры на кострах, или дальше писать фантастику :)

А некоторые в Африке и в 2014 едят людей и считают компьютеры, наверно, опасными демонскими игрушками.

Странно что вы увлекаетесь загадками...
Судя по вашему фееричному юмору, отличным примерам и культуре поведения, вам должно быть лет 18-25. Горючая смесь повелителя-мира-школьника и вдумчивого-студента-эстета.

П.С. Насчет ламы, я почему-то считал что для фигуры такого духовного масштаба... Вся эта ерунда не особо интересна.
Видимо заблуждался.
danzeon
Oct. 31st, 2014 12:22 pm (UTC)
Странно, что я должен сильно увлекаться загадкой, ответ на которую мне, по моему скромному мнению повелителя мира, известен.
bright_vladimir
Nov. 1st, 2014 05:19 am (UTC)
"Странно что вы увлекаетесь загадками"...


"Коаны - это короткие истории, рассказывающие о конкретных случаях достижения просветления, либо загадки-алогизмы, основной задачей которых является пробуждение ума слушающего".

Классическое поведение девушек на форумах. Они до последнего упираются. Пожимают плечами, зевают, говорят "Фи", и делают большие удивленные глаза.
danzeon
Nov. 1st, 2014 08:42 am (UTC)
Классическое так классическое. Я обычный человек, во мне нет ничего особенного. Сплю, ем, дышу - очень классическое поведение. Но не понимаю, к чему вы тут рассказали мне, что такое коаны.
bright_vladimir
Nov. 1st, 2014 09:08 am (UTC)
"Я обычный человек, во мне нет ничего особенного".

"Ну, вряд ли вам это когда-нибудь удастся, настроиться на мою волну восприятия :) Учитывая, что я люблю решать дзэнские коаны с ускользающим смыслом вроде таких"

"В Китае и Японии продаются книжки со всеми ответами на коаны за обычные деньги. 90 % ответов в них всё равно, я думаю, обычным людям будут не понятны"

Наблюдение.
Ущербность двоичной логики подсказывает: либо вы относите себя к 10 процентам необычных людей (речь идет о мышлении, а не физической составляющей: ем, сплю, хожу в туалет), которые "понимают", либо к 90 - обычных "не понимающих".



"Но не понимаю, к чему вы тут рассказали мне, что такое коаны.

Странно что вы увлекаетесь загадками (коанами)...
Судя по вашему фееричному юмору, отличным примерам и культуре поведения, вам должно быть лет 18-25. Горючая смесь повелителя-мира-школьника и вдумчивого-студента-эстета.

Странно, что я должен сильно увлекаться загадкой, ответ на которую мне, по моему скромному мнению повелителя мира, известен.

Наблюдение. Без комментариев.
danzeon
Nov. 1st, 2014 09:10 am (UTC)
Ответа на то, к чему вы тут рассказали мне, что такое коаны, я так и не услышал.

И я, пожалуй, кое-что уточню, раз вы тут своей двоичной логикой развели историю с процентами людей.

Все чаньские школы опираются на следующие пять ключевых принципов:
Высшая Истина не­выразима;
Духовное совершенствование невозможно;
В конечном счёте ничего не достигается;
В буд­дийском учении нет ничего особенного;
Чудесное Дао заключено везде, даже в «ремесле водоноса или лесоруба» (Антология дзэн / под ред. С. В. Пахомова. — СПб.: Наука, 2004, с. 119—120)

Edited at 2014-11-01 12:42 pm (UTC)
bright_vladimir
Nov. 1st, 2014 11:54 am (UTC)
Ответа на то, к чему вы тут рассказали мне, что такое коаны, я так и не услышал.

ВНИМАНИЕ ОТВЕТ.

"Странно что вы увлекаетесь загадками (коанами)... Судя по вашему
фееричному юмору, отличным примерам и культуре поведения, вам должно
быть лет 18-25. Горючая смесь повелителя-мира-школьника и
вдумчивого-студента-эстета".

"И я, пожалуй, кое-что уточню, раз вы тут своей двоичной логикой развели историю с процентами людей".

О процентах и людях писали вы. Это ваша прямая цитата.
Давайте я еще раз повторю (во избежания непонимания с вашей стороны.)
О ПРОЦЕНТАХ И ЛЮДЯХ ПИСАЛИ ВЫ. ЭТО ВАША ПРЯМАЯ ЦИТАТА.

p.s. А насчет 5 принципов. Вы меня ничем не удивили. В лучших традициях чаньских школ я вам уже писал что:

Игра с собственным воображением, достаточно увлекательна, чтобы посветить ей определенное время. Одни разгадывают коаны, другие становятся графоманами. Но в конечном итоге и то и другое, по большому счету - путь в никуда.
danzeon
Nov. 1st, 2014 12:44 pm (UTC)
> ВНИМАНИЕ ОТВЕТ.

Я начинаю подозревать, что вы сами являетесь искусственным интеллектом уровня начала 21 века, особенно учитывая повторяющееся фразы. Как связано то, что я увлекаюсь коанами плюс ваши догадки относительно моей личности, и определение коана каким-то учёным? Или этот ответ из той же серии, что и с фиалками? Или это просто позёрство в стиле "я знаю о коанах больше тебя"? По мне это просто ерунда какая-то.

> О процентах и людях писали вы. Это ваша прямая цитата.

И что? Вам не приходило в голову, что 10 оставшихся процентов - тоже обычные люди в абсолютном смысле и необычные с точки зрения 90 процентов? Вам не приходило в голову, что скейтбордистов, порнозвёзд, президентов, Далай-лам, Гаутаму Будду можно назвать обычными людьми, а можно необычными в зависимости от контекста? Вам не приходило в голову, что контекст меняется каждую секунду, а не является твёрдо застывшей философской концепцией? Привязывание к словам считается в дзэне ошибкой, в вашем случае мне она ясно видна.

> Но в конечном итоге и то и другое, по большому счету - путь в никуда.

Ну, человек, хорошо разбирающийся в коанах без решения хотя бы одного, похож на кухарку, хорошо разбирающуюся в экономике, с ЧСВ уровня до небес. Хотите идти в никуда, идите в никуда, мне то какое дело.
bright_vladimir
Nov. 1st, 2014 01:03 pm (UTC)
"Как связано то, что я увлекаюсь коанами плюс ваши догадки относительно моей личности".

В американских молодежных комедиях персонажи с «туалетным юморком», обычно не увлекаются решением интеллектуальных задач. Мои догадки относительно вашей личности и возраста, вызваны многогранностью ваших талантов.


"Вам не приходило в голову, что контекст меняется каждую секунду, а не является твёрдо застывшей философской концепцией? Привязывание к словам считается в дзэне ошибкой"

А вам не приходило в голову, что при таких исходных условиях (если контекст меняется каждую секунду, а привязывание к словам – ошибка), можно говорить любую чушь или просто мычать (концептуально разумеется). Разницы не будет никакой.

p.s. Не волнуйтесь, я не претендую на знания о коанах.
danzeon
Nov. 1st, 2014 01:13 pm (UTC)
А вам не приходило в голову, если слова меняются каждую секунду, то может быть что-то кроме слов, на чём всё это основано? Почему-то одни непривязывальщики к словам заболевают шизофазией, другие же становятся прославленными поэтами, художниками, мастерами боевых искусств.

> В американских молодежных комедиях персонажи с «туалетным юморком», обычно не увлекаются решением интеллектуальных задач.

Кстати, если вам интересно, то юмор в дзэне действительно не слишком утончённый :) "М. Конрад Хайерс в своей работе «Дзэн и комический дух»[224] привёл традиционную индийскую схему деления смеха на три категории. В первую категорию входит аристократическая вежливая улыбка, во вторую — «умеренный смех представителя среднего сословия» и брахмана, а в третью — плотский и вульгарный смех низшего сословия. Последний вид смеха и практикуется в традиции дзэн[225]. Как отмечает доктор исторических наук Е. С. Сафронова, индийская улыбка Махакашьяпы трансформировалась в Китае и Японии в «животный, плотский, громоподобный хохот, от которого сотрясаются монастырские стены»[221]".
bright_vladimir
Nov. 1st, 2014 01:19 pm (UTC)
Мне кажется, вы ищете себя в дзене, а не дзен в себе.

Но так как контекст меняется каждую секунду, а привязывание к словам – ошибка, то...
Сами понимаете.
danzeon
Nov. 1st, 2014 01:20 pm (UTC)
На самом деле я просто ищу себя и пока что меня не видно.
bright_vladimir
Nov. 1st, 2014 01:32 pm (UTC)
"Мне кажется, вы ищете себя (в дзене)"

"На самом деле я просто ищу себя"

Если оставить дзен за скобками (подставив вместо него что угодно, включая пару пробелов), то выходит что я прав :)

(Deleted comment)
bright_vladimir
Nov. 1st, 2014 05:20 am (UTC)
Скачок технологий. Плюс роль личности в истории (какой-нибудь сумасшедший гений, программист Франкнштейн).
Главное зажечь искру разума. Дальше ИИ все сделает сам.
(Deleted comment)
bright_vladimir
Nov. 1st, 2014 11:59 am (UTC)
Как только люди поняли, что Земля не плоская, а круглая, все стало иначе.
Мне кажется как только ученый-программист-гений-Франкенштейн, взглянет на проблему ИИ под другим углом, все изменится. Он даст толчок развитию, а дальше все пойдет по накатанной (к неизбежному финалу)...


( 20 comments — Leave a comment )