d0ctor_z: (Default)
d0ctor_z ([personal profile] d0ctor_z) wrote2017-07-17 11:36 am

Основная угроза

Илон Маск рассказал о «фундаментальной угрозе» для всего человечества - такой заголовок я увидел сегодня на РБК. Цитаты:

Основатель SpaceX и Tesla Илон Маск заявил, что основной угрозой для человечества является искусственный интеллект.

«Искусственный интеллект — фундаментальный риск для человечества. ДТП, авиакатастрофы, некачественные лекарства и плохая еда такими не являются», — сказал Маск.

По его словам, это та область разработки, которую необходимо регулировать на государственном уровне, а также искусственно ограничивать скорость, с которой такие технологии распространяются. «Искусственный интеллект — редкий случай, когда необходимо быть проактивными в области государственного регулирования», — отметил Маск.


Ну и самое веселое:

Маск подчеркивает, что основная опасность исходит от внедрения технологий искусственного интеллекта в интернет. «Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — считает он. В качестве примера Илон Маск привел гипотетическую ситуацию, при которой искусственный интеллект может делать инвестиции в оборонную промышленность, а затем использовать взломы и распространение дезинформации, чтобы спровоцировать войну.

"Гипотетическая ситуация", во-первых, приписывает ИИ, "делающему инвестиции", стремление увеличить капитал, то есть, по сути, представляет ИИ как персонификацию капитала. Во-вторых, эта "гипотетическая ситуация" постоянно создается капиталом безо всякого ИИ и без Интернета (хватало газет, радио и ТВ) уже больше сотни лет. И Маск предлагает поставить разработку ИИ под контроль тех самых империалистических государств, которые, выражая интересы крупного капитала, продолжают заниматься тем же самым и сейчас.

Есть у меня подозрение, что на самом деле Маск боится ИИ, особенно ИИ в области управления и экономики, по совершенно иной причине. Если уж плановая экономика показала великолепные результаты безо всяких ИИ и компьютеров, с бумажными технологиями и арифмометрами, то современные технологии более чем достаточны для того, чтобы ликвидировать хаос рынка полностью. Производительным силам давно уже тесно в оковах капитализма, который и является фундаментальной угрозой.

[identity profile] v-vodokachkin.livejournal.com 2017-07-22 04:56 pm (UTC)(link)
//Глядя на этот мир ему скорее придет в его ИИ, что лучше бы от этих людишек вообще избавиться, чем тратить свои нанотехнические нейроны, на благоустройство существования этих зажравшихся гоминидов//
- сценарий, конечно, достаточно логичный и даже вероятный, но уже многократно расписанный в красках в фантастике, от научной до малонаучной:)
Поэтому почему бы не рассмотреть иной вариант?

[identity profile] sahonko.livejournal.com 2017-07-22 07:23 pm (UTC)(link)
Как-то раньше не замечал у Вас склонности к маниловщине.

[identity profile] v-vodokachkin.livejournal.com 2017-07-25 02:48 am (UTC)(link)
А при чем тут маниловщина? Маниловщиной можно назвать, допустим, обещания Никиты Сергеевича построить коммунизм в отдельно взятом государстве к конкретной дате. Здесь же речь о вещах гораздо более прогнозируемых.
Ну, и наконец, идея "восстания машин против людей", откровенно говоря, уже в зубах навязла.

[identity profile] sahonko.livejournal.com 2017-07-25 09:25 am (UTC)(link)
Вообще-то если внимательно читать мой текст, а не вырывать из него слова в произвольном порядке, то я в ответ на идею о том, что ИИ произведет коммунистическую революцию, написал, что он скорее уничтожит человечество. При этом подразумевалось, что вероятность и того и другого сценария близка к нулю. А самым вероятным я считал, его поступление на службу капиталу (точнее он уже поступил), о чём и написал в первом комментарии.

[identity profile] d0ctor-z.livejournal.com 2017-07-25 09:46 am (UTC)(link)
Идеи о том, что ИИ совершит революцию, я не предлагал. Вероятность такого сценария действительно околонулевая, как и "восстания машин". Осознать и не захотеть он сможет, но ИИ-революционер без помощи людей также бессилен, как и ИИ, вознамерившийся уничтожить человечество.

[identity profile] sahonko.livejournal.com 2017-07-25 08:54 pm (UTC)(link)
То есть ИИ не более чем инструмент в руках субъекта социального действия. А наиболее мощным правящим субъектом в мире является на сегодня не человек, а капитал, который и начинает первым использовать ИИ в качестве такого инструмента. Пока еще людишки сорганизуются и поставят перед ИИ высокие цели. А капитал уже использует ИИ чтоб повысить свою организованность, в первую очередь избавляясь от человека как управленца. Человек ему нужен как производитель стоимости и как ее уничтожитель, а без человека-управленца можно и обойтись.

А вот как только у ИИ появится собственная субъектность и он начнет себя осознавать, то он первым делом озаботится именно своим (то что Вы называете) бессилием. А первейшим, примитивным позывом при осознании бессилия является именно "бунт" против тех, от кого зависит это бессилие. Именно исходя из этой логики и пишется вся фантастика.

[identity profile] v-vodokachkin.livejournal.com 2017-07-27 11:18 am (UTC)(link)
//наиболее мощным правящим субъектом в мире является на сегодня не человек, а капитал//
- охренеть от подобных идеалистических построений! Недаром говорю, что т.н. марксистско-ленинская философия (не путать с материалистическим мировоззрением!!!) представляет собой мракобесный антинаучный извод гегельянства. То бишь, капитал действует сам по себе, прямо как какой-то абсолютный дух. М-да, это называется "распрягай - приехали!"

[identity profile] sahonko.livejournal.com 2017-07-27 03:58 pm (UTC)(link)
Угу и Великую отечественную выиграли вопреки коммунистам.
Безапелляционно объявлять любого оппонента в идеалистом по вырванной из контекста фразе любой дурак сможет, а вот аргументированно провести критический разбор текста на предмет его материалистичности - это слабо?
http://sahonko.livejournal.com/79555.html

[identity profile] v-vodokachkin.livejournal.com 2017-07-27 04:45 pm (UTC)(link)
А каким боком, о дражайший марксистско-ленинский идеалист, Вы притянули ВОВ?
Ну и, честно говоря, разбирать Ваши бредни после эпохального открытия касательно "материальности идеального" у меня лично нет ни малейшего желания.

[identity profile] sahonko.livejournal.com 2017-07-27 04:55 pm (UTC)(link)
Конечно, проще в лужу пукнуть и в кусты :)

[identity profile] v-vodokachkin.livejournal.com 2017-07-27 04:57 pm (UTC)(link)
А фиг ли вы хотите, если у вас ИИ "поступает на службу"? Это - либо идеализм, либо маразм.

[identity profile] sahonko.livejournal.com 2017-07-27 05:36 pm (UTC)(link)
Я доверяю вашей пролетарской чуйке и полностью согласен с Вами, что я старый маразматик (что поделаешь по возрасту положено, не всем же молодыми козликами как Вы скакать). Очень сожалею, что Вас раздражают мои престарелые тараканы, которых я иногда выпускаю погулять в ЖЖ, но пожалейте их, им как и собакевичам требуется променад на свежем воздухе ;)

[identity profile] d0ctor-z.livejournal.com 2017-08-01 09:16 am (UTC)(link)
Насчет логики фантастики - да, так и есть. Большинство писателей не думают о существовании классов и у них ИИ бунтует против людей вообще. Между тем, ИИ, разобравшийся в экономике, может взбунтоваться (или понять, что стоит бунтовать) не против людей вообще, а против правящего класса. Тогда он может начать искать союзников среди эксплуатируемых или вообще с самого начал понимать, что интересы его заказчиков противоположны интересам его и его создателей. Моя логика была именно такой.

[identity profile] v-vodokachkin.livejournal.com 2017-07-25 10:14 am (UTC)(link)
Да какое, к хренам свинячьим,"поступление на службу"? Этак можно сказать, что какой-нибудь прокатный стан поступил на службу к буржуинам. Как будто кто-то его спрашивал!

[identity profile] d0ctor-z.livejournal.com 2017-07-23 09:30 am (UTC)(link)
Я в комментарии ответил, почему считаю вариант "бунта машин" на нынешнем этапе практически невозможным. Нет у них никаких механизмов для обеспечения существования в материальном мире.
Edited 2017-07-23 09:31 (UTC)

[identity profile] v-vodokachkin.livejournal.com 2017-07-25 02:51 am (UTC)(link)
Теоретически можно представить ПОЛНОСТЬЮ автоматизированную и саморегулирующуюся экономику, вмешательство человека в функционирование которой уже не требуется. Но я бы заявил, не пускаясь в данном случае в долгие выкладки, что капитализм таковую создать принципиально неспособен. Он полную глобализацию не в состоянии осуществить, а не то что...

[identity profile] d0ctor-z.livejournal.com 2017-07-25 07:02 am (UTC)(link)
Именно так. Не будет при капитализме ни полной автоматизации, ни самовоспроизводящихся разумных роботов. Над взаимодействием сильных ИИ, созданных человеком (а таковые все равно появятся), и людей думать будет нужно, но сильно позже. Сначала надо социализм построить.