Основная угроза

[d0ctor_z]

Илон Маск рассказал о «фундаментальной угрозе» для всего человечества - такой заголовок я увидел сегодня на РБК. Цитаты:

Основатель SpaceX и Tesla Илон Маск заявил, что основной угрозой для человечества является искусственный интеллект.

«Искусственный интеллект — фундаментальный риск для человечества. ДТП, авиакатастрофы, некачественные лекарства и плохая еда такими не являются», — сказал Маск.

По его словам, это та область разработки, которую необходимо регулировать на государственном уровне, а также искусственно ограничивать скорость, с которой такие технологии распространяются. «Искусственный интеллект — редкий случай, когда необходимо быть проактивными в области государственного регулирования», — отметил Маск.

Ну и самое веселое:

Маск подчеркивает, что основная опасность исходит от внедрения технологий искусственного интеллекта в интернет. «Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — считает он. В качестве примера Илон Маск привел гипотетическую ситуацию, при которой искусственный интеллект может делать инвестиции в оборонную промышленность, а затем использовать взломы и распространение дезинформации, чтобы спровоцировать войну.

"Гипотетическая ситуация", во-первых, приписывает ИИ, "делающему инвестиции", стремление увеличить капитал, то есть, по сути, представляет ИИ как персонификацию капитала. Во-вторых, эта "гипотетическая ситуация" постоянно создается капиталом безо всякого ИИ и без Интернета (хватало газет, радио и ТВ) уже больше сотни лет. И Маск предлагает поставить разработку ИИ под контроль тех самых империалистических государств, которые, выражая интересы крупного капитала, продолжают заниматься тем же самым и сейчас.

Есть у меня подозрение, что на самом деле Маск боится ИИ, особенно ИИ в области управления и экономики, по совершенно иной причине. Если уж плановая экономика показала великолепные результаты безо всяких ИИ и компьютеров, с бумажными технологиями и арифмометрами, то современные технологии более чем достаточны для того, чтобы ликвидировать хаос рынка полностью. Производительным силам давно уже тесно в оковах капитализма, который и является фундаментальной угрозой.

Comments

[sahonko.livejournal.com]

Вообще-то если внимательно читать мой текст, а не вырывать из него слова в произвольном порядке, то я в ответ на идею о том, что ИИ произведет коммунистическую революцию, написал, что он скорее уничтожит человечество. При этом подразумевалось, что вероятность и того и другого сценария близка к нулю. А самым вероятным я считал, его поступление на службу капиталу (точнее он уже поступил), о чём и написал в первом комментарии.

[d0ctor-z.livejournal.com]

Идеи о том, что ИИ совершит революцию, я не предлагал. Вероятность такого сценария действительно околонулевая, как и "восстания машин". Осознать и не захотеть он сможет, но ИИ-революционер без помощи людей также бессилен, как и ИИ, вознамерившийся уничтожить человечество.

[sahonko.livejournal.com]

То есть ИИ не более чем инструмент в руках субъекта социального действия. А наиболее мощным правящим субъектом в мире является на сегодня не человек, а капитал, который и начинает первым использовать ИИ в качестве такого инструмента. Пока еще людишки сорганизуются и поставят перед ИИ высокие цели. А капитал уже использует ИИ чтоб повысить свою организованность, в первую очередь избавляясь от человека как управленца. Человек ему нужен как производитель стоимости и как ее уничтожитель, а без человека-управленца можно и обойтись.

А вот как только у ИИ появится собственная субъектность и он начнет себя осознавать, то он первым делом озаботится именно своим (то что Вы называете) бессилием. А первейшим, примитивным позывом при осознании бессилия является именно "бунт" против тех, от кого зависит это бессилие. Именно исходя из этой логики и пишется вся фантастика.

[v-vodokachkin.livejournal.com]

//наиболее мощным правящим субъектом в мире является на сегодня не человек, а капитал//
- охренеть от подобных идеалистических построений! Недаром говорю, что т.н. марксистско-ленинская философия (не путать с материалистическим мировоззрением!!!) представляет собой мракобесный антинаучный извод гегельянства. То бишь, капитал действует сам по себе, прямо как какой-то абсолютный дух. М-да, это называется "распрягай - приехали!"

[sahonko.livejournal.com]

Угу и Великую отечественную выиграли вопреки коммунистам.
Безапелляционно объявлять любого оппонента в идеалистом по вырванной из контекста фразе любой дурак сможет, а вот аргументированно провести критический разбор текста на предмет его материалистичности - это слабо?
http://sahonko.livejournal.com/79555.html

[v-vodokachkin.livejournal.com]

А каким боком, о дражайший марксистско-ленинский идеалист, Вы притянули ВОВ?
Ну и, честно говоря, разбирать Ваши бредни после эпохального открытия касательно "материальности идеального" у меня лично нет ни малейшего желания.

[sahonko.livejournal.com]

Конечно, проще в лужу пукнуть и в кусты :)

[v-vodokachkin.livejournal.com]

А фиг ли вы хотите, если у вас ИИ "поступает на службу"? Это - либо идеализм, либо маразм.

[sahonko.livejournal.com]

Я доверяю вашей пролетарской чуйке и полностью согласен с Вами, что я старый маразматик (что поделаешь по возрасту положено, не всем же молодыми козликами как Вы скакать). Очень сожалею, что Вас раздражают мои престарелые тараканы, которых я иногда выпускаю погулять в ЖЖ, но пожалейте их, им как и собакевичам требуется променад на свежем воздухе ;)

[d0ctor-z.livejournal.com]

Насчет логики фантастики - да, так и есть. Большинство писателей не думают о существовании классов и у них ИИ бунтует против людей вообще. Между тем, ИИ, разобравшийся в экономике, может взбунтоваться (или понять, что стоит бунтовать) не против людей вообще, а против правящего класса. Тогда он может начать искать союзников среди эксплуатируемых или вообще с самого начал понимать, что интересы его заказчиков противоположны интересам его и его создателей. Моя логика была именно такой.

[v-vodokachkin.livejournal.com]

Да какое, к хренам свинячьим,"поступление на службу"? Этак можно сказать, что какой-нибудь прокатный стан поступил на службу к буржуинам. Как будто кто-то его спрашивал!