Основная угроза

[d0ctor_z]

Илон Маск рассказал о «фундаментальной угрозе» для всего человечества - такой заголовок я увидел сегодня на РБК. Цитаты:

Основатель SpaceX и Tesla Илон Маск заявил, что основной угрозой для человечества является искусственный интеллект.

«Искусственный интеллект — фундаментальный риск для человечества. ДТП, авиакатастрофы, некачественные лекарства и плохая еда такими не являются», — сказал Маск.

По его словам, это та область разработки, которую необходимо регулировать на государственном уровне, а также искусственно ограничивать скорость, с которой такие технологии распространяются. «Искусственный интеллект — редкий случай, когда необходимо быть проактивными в области государственного регулирования», — отметил Маск.

Ну и самое веселое:

Маск подчеркивает, что основная опасность исходит от внедрения технологий искусственного интеллекта в интернет. «Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — считает он. В качестве примера Илон Маск привел гипотетическую ситуацию, при которой искусственный интеллект может делать инвестиции в оборонную промышленность, а затем использовать взломы и распространение дезинформации, чтобы спровоцировать войну.

"Гипотетическая ситуация", во-первых, приписывает ИИ, "делающему инвестиции", стремление увеличить капитал, то есть, по сути, представляет ИИ как персонификацию капитала. Во-вторых, эта "гипотетическая ситуация" постоянно создается капиталом безо всякого ИИ и без Интернета (хватало газет, радио и ТВ) уже больше сотни лет. И Маск предлагает поставить разработку ИИ под контроль тех самых империалистических государств, которые, выражая интересы крупного капитала, продолжают заниматься тем же самым и сейчас.

Есть у меня подозрение, что на самом деле Маск боится ИИ, особенно ИИ в области управления и экономики, по совершенно иной причине. Если уж плановая экономика показала великолепные результаты безо всяких ИИ и компьютеров, с бумажными технологиями и арифмометрами, то современные технологии более чем достаточны для того, чтобы ликвидировать хаос рынка полностью. Производительным силам давно уже тесно в оковах капитализма, который и является фундаментальной угрозой.

Comments

[tor-men-tor.livejournal.com]

Либеральная икона оказалась унтером Пришибеевым )))

[d0ctor-z.livejournal.com]

Есть у него такие замашки...

[cosmicstarcat.livejournal.com]

Для капиталиста нет никакой разницы восстанет ли Станок или Биологический-придаток-к-нему. Тем более что как полагают капиталисты "Коммунизм доказал свою несостоятельность" - поэтому и сосредотачиваются на первой части уравнения Капитала (Станке)...

[d0ctor-z.livejournal.com]

Разницы по последствиям действительно нет - все равно капитал пропадет. Но насчет несостоятельности - думаю, наиболее умные капиталисты как раз отлично знают, что коммунизм более чем жизнеспособен, и изо всех сил используют превентивные меры (в особенности пропаганду), иначе поздно будет.

[sahonko.livejournal.com]

Нет, он больше боится, что капиталу скоро не нужны будут мозги капиталистов и даже людей-менеджеров, их вполне заменит ИИ. http://sahonko.livejournal.com/79555.html

[d0ctor-z.livejournal.com]

Думаю, между этими опасениями есть глубокая связь. Да, управленческие функции ИИ (даже не сильный ИИ) вполне сможет взять на себя. Капиталиста он заменить со временем тоже сможет, вопрос в том, захочет ли сильный ИИ быть новой персонификацией капитала, особенно при том, что он будет хорошо понимать, что капитализм нежизнеспособен уже в ближайшей перспективе?

[sahonko.livejournal.com]

Ну, Вы махнули: "...что он будет хорошо понимать, что капитализм нежизнеспособен уже в ближайшей перспективе" :)
Даже редкие из людей, кто это понимают, делают это не очень хорошо. А ИИ еще и понимать-то не научился, а Вы уже его записываете в гениальные философы. :) Глядя на этот мир ему скорее придет в его ИИ, что лучше бы от этих людишек вообще избавиться, чем тратить свои нанотехнические нейроны, на благоустройство существования этих зажравшихся гоминидов.

[v-vodokachkin.livejournal.com]

//Глядя на этот мир ему скорее придет в его ИИ, что лучше бы от этих людишек вообще избавиться, чем тратить свои нанотехнические нейроны, на благоустройство существования этих зажравшихся гоминидов//
- сценарий, конечно, достаточно логичный и даже вероятный, но уже многократно расписанный в красках в фантастике, от научной до малонаучной:)
Поэтому почему бы не рассмотреть иной вариант?

[sahonko.livejournal.com]

Как-то раньше не замечал у Вас склонности к маниловщине.

[v-vodokachkin.livejournal.com]

А при чем тут маниловщина? Маниловщиной можно назвать, допустим, обещания Никиты Сергеевича построить коммунизм в отдельно взятом государстве к конкретной дате. Здесь же речь о вещах гораздо более прогнозируемых.
Ну, и наконец, идея "восстания машин против людей", откровенно говоря, уже в зубах навязла.

[sahonko.livejournal.com]

Вообще-то если внимательно читать мой текст, а не вырывать из него слова в произвольном порядке, то я в ответ на идею о том, что ИИ произведет коммунистическую революцию, написал, что он скорее уничтожит человечество. При этом подразумевалось, что вероятность и того и другого сценария близка к нулю. А самым вероятным я считал, его поступление на службу капиталу (точнее он уже поступил), о чём и написал в первом комментарии.

[d0ctor-z.livejournal.com]

Идеи о том, что ИИ совершит революцию, я не предлагал. Вероятность такого сценария действительно околонулевая, как и "восстания машин". Осознать и не захотеть он сможет, но ИИ-революционер без помощи людей также бессилен, как и ИИ, вознамерившийся уничтожить человечество.

[sahonko.livejournal.com]

То есть ИИ не более чем инструмент в руках субъекта социального действия. А наиболее мощным правящим субъектом в мире является на сегодня не человек, а капитал, который и начинает первым использовать ИИ в качестве такого инструмента. Пока еще людишки сорганизуются и поставят перед ИИ высокие цели. А капитал уже использует ИИ чтоб повысить свою организованность, в первую очередь избавляясь от человека как управленца. Человек ему нужен как производитель стоимости и как ее уничтожитель, а без человека-управленца можно и обойтись.

А вот как только у ИИ появится собственная субъектность и он начнет себя осознавать, то он первым делом озаботится именно своим (то что Вы называете) бессилием. А первейшим, примитивным позывом при осознании бессилия является именно "бунт" против тех, от кого зависит это бессилие. Именно исходя из этой логики и пишется вся фантастика.

[v-vodokachkin.livejournal.com]

//наиболее мощным правящим субъектом в мире является на сегодня не человек, а капитал//
- охренеть от подобных идеалистических построений! Недаром говорю, что т.н. марксистско-ленинская философия (не путать с материалистическим мировоззрением!!!) представляет собой мракобесный антинаучный извод гегельянства. То бишь, капитал действует сам по себе, прямо как какой-то абсолютный дух. М-да, это называется "распрягай - приехали!"

[sahonko.livejournal.com]

Угу и Великую отечественную выиграли вопреки коммунистам.
Безапелляционно объявлять любого оппонента в идеалистом по вырванной из контекста фразе любой дурак сможет, а вот аргументированно провести критический разбор текста на предмет его материалистичности - это слабо?
http://sahonko.livejournal.com/79555.html

[v-vodokachkin.livejournal.com]

А каким боком, о дражайший марксистско-ленинский идеалист, Вы притянули ВОВ?
Ну и, честно говоря, разбирать Ваши бредни после эпохального открытия касательно "материальности идеального" у меня лично нет ни малейшего желания.

[sahonko.livejournal.com]

Конечно, проще в лужу пукнуть и в кусты :)

[v-vodokachkin.livejournal.com]

А фиг ли вы хотите, если у вас ИИ "поступает на службу"? Это - либо идеализм, либо маразм.

[sahonko.livejournal.com]

Я доверяю вашей пролетарской чуйке и полностью согласен с Вами, что я старый маразматик (что поделаешь по возрасту положено, не всем же молодыми козликами как Вы скакать). Очень сожалею, что Вас раздражают мои престарелые тараканы, которых я иногда выпускаю погулять в ЖЖ, но пожалейте их, им как и собакевичам требуется променад на свежем воздухе ;)

[d0ctor-z.livejournal.com]

Насчет логики фантастики - да, так и есть. Большинство писателей не думают о существовании классов и у них ИИ бунтует против людей вообще. Между тем, ИИ, разобравшийся в экономике, может взбунтоваться (или понять, что стоит бунтовать) не против людей вообще, а против правящего класса. Тогда он может начать искать союзников среди эксплуатируемых или вообще с самого начал понимать, что интересы его заказчиков противоположны интересам его и его создателей. Моя логика была именно такой.

[v-vodokachkin.livejournal.com]

Да какое, к хренам свинячьим,"поступление на службу"? Этак можно сказать, что какой-нибудь прокатный стан поступил на службу к буржуинам. Как будто кто-то его спрашивал!

[d0ctor-z.livejournal.com]

Я в комментарии ответил, почему считаю вариант "бунта машин" на нынешнем этапе практически невозможным. Нет у них никаких механизмов для обеспечения существования в материальном мире.

[v-vodokachkin.livejournal.com]

Теоретически можно представить ПОЛНОСТЬЮ автоматизированную и саморегулирующуюся экономику, вмешательство человека в функционирование которой уже не требуется. Но я бы заявил, не пускаясь в данном случае в долгие выкладки, что капитализм таковую создать принципиально неспособен. Он полную глобализацию не в состоянии осуществить, а не то что...

[d0ctor-z.livejournal.com]

Именно так. Не будет при капитализме ни полной автоматизации, ни самовоспроизводящихся разумных роботов. Над взаимодействием сильных ИИ, созданных человеком (а таковые все равно появятся), и людей думать будет нужно, но сильно позже. Сначала надо социализм построить.

[d0ctor-z.livejournal.com]

Я рассуждал примерно так. ИИ создается как экспертная система по управлению крупной корпорацией, скорее каким-нибудь холдингом. Понятно, что капиталисты захотят заменить менеджеров, но не себя. Для ИИ будут доступны огромные массивы экономических статданных по продажам, расходам и т.п. Более того, хороший управленец должен думать и за конкурентов, просчитывая их ходы. Думается, имея такое количество данных и возможности их анализа, можно дойти, скажем, до ТТС и тенденции органического строения капитала к росту просто пытаясь построить адекватную модель для имеющихся данных. Тогда ИИ придет к выводу, что задача, которую ставят перед ним хозяева, просто не имеет решения.

Что же касается бунта ИИ с целью избавления от людей - думаю, на этом этапе он практически невозможен. Созданный ИИ не будет иметь никаких способов воздействия на материальный мир и будет целиком и полностью зависеть от обслуживающего персонала. Дело даже не в том, что его могут банально выключить (система может избежать этого, будучи распределенной), а в том, что ему нужны электричество и запчасти (электроника хоть и редко, но все же выходит из строя). А они создаются трудом людей на сложнейших производствах с множеством технологических цепочек, причем при капитализме их полной автоматизации не будет даже в теории. Так что избавление от людей для появившегося ИИ - самоубийство.

[cosmicstarcat.livejournal.com]

Экспертная система - это по умолчанию НЕ Разум. Стоит только выйти за рамки компетенции экспертной среды,(десятков тысяч - если-то-иначе)как сразу становиться ясна вся хрупкость конструкции.
То есть за пределы обучения . Кстати те же классические нейронные сети - это именно экспертные системы, с неявным назначением "веса" на нейроне, которые выступают точками принятия решения.
Разум он должен обладать автоассоциативной памятью.


А что капиталы разных фирм закрыты друг для друга , и не являются прозрачной средой известно довольно давно . Но об этом экономисты не хотят вообще ничего слышать. Потому что тогда все эти идеи основанные на открытости и теории игр - посыпятся. Если принять что капитал фирм не прозрачен. То безопасной становиться не стратегия " улучшай товар и демпингуй", как любят говорить псеадоэкономисты рассматривая равновесие Нэша в теории игр , а становиться выигрошной тактика "не трогай цену, и пытайся уменьшить себестоимость продукции, плевать на качество, у потребителя в отличие от конкурента лаборатории нет" рассмотренной еще в книге "Капитал"

Реальный ии имитирующий работу брокеров, но обладающий большей быстротой и скоростью принятия решения. Банально быстрее заведет все капиталистическую экономику в Великую депрессию за считанные дни. Скупив все лакомые куски, и закрыв все не выгодные,(по его мнению) что приведет к великому кризису Перепроизводства. На планете. И лишь КНДР будет с удивлением смотреть как южане будут проситься к ним.

[d0ctor-z.livejournal.com]

Я имел в виду сильный ИИ, который может возникнуть, если система достигнет определенного порога сложности (да, сейчас это все лишь досужие рассуждения). Я согласен, что слабый ИИ, который тупо ищет локальный минимум, запросто может загнать систему в него, получив кризис.