Основная угроза

[d0ctor_z]

Илон Маск рассказал о «фундаментальной угрозе» для всего человечества - такой заголовок я увидел сегодня на РБК. Цитаты:

Основатель SpaceX и Tesla Илон Маск заявил, что основной угрозой для человечества является искусственный интеллект.

«Искусственный интеллект — фундаментальный риск для человечества. ДТП, авиакатастрофы, некачественные лекарства и плохая еда такими не являются», — сказал Маск.

По его словам, это та область разработки, которую необходимо регулировать на государственном уровне, а также искусственно ограничивать скорость, с которой такие технологии распространяются. «Искусственный интеллект — редкий случай, когда необходимо быть проактивными в области государственного регулирования», — отметил Маск.

Ну и самое веселое:

Маск подчеркивает, что основная опасность исходит от внедрения технологий искусственного интеллекта в интернет. «Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — считает он. В качестве примера Илон Маск привел гипотетическую ситуацию, при которой искусственный интеллект может делать инвестиции в оборонную промышленность, а затем использовать взломы и распространение дезинформации, чтобы спровоцировать войну.

"Гипотетическая ситуация", во-первых, приписывает ИИ, "делающему инвестиции", стремление увеличить капитал, то есть, по сути, представляет ИИ как персонификацию капитала. Во-вторых, эта "гипотетическая ситуация" постоянно создается капиталом безо всякого ИИ и без Интернета (хватало газет, радио и ТВ) уже больше сотни лет. И Маск предлагает поставить разработку ИИ под контроль тех самых империалистических государств, которые, выражая интересы крупного капитала, продолжают заниматься тем же самым и сейчас.

Есть у меня подозрение, что на самом деле Маск боится ИИ, особенно ИИ в области управления и экономики, по совершенно иной причине. Если уж плановая экономика показала великолепные результаты безо всяких ИИ и компьютеров, с бумажными технологиями и арифмометрами, то современные технологии более чем достаточны для того, чтобы ликвидировать хаос рынка полностью. Производительным силам давно уже тесно в оковах капитализма, который и является фундаментальной угрозой.

Comments

[d0ctor-z.livejournal.com]

Я рассуждал примерно так. ИИ создается как экспертная система по управлению крупной корпорацией, скорее каким-нибудь холдингом. Понятно, что капиталисты захотят заменить менеджеров, но не себя. Для ИИ будут доступны огромные массивы экономических статданных по продажам, расходам и т.п. Более того, хороший управленец должен думать и за конкурентов, просчитывая их ходы. Думается, имея такое количество данных и возможности их анализа, можно дойти, скажем, до ТТС и тенденции органического строения капитала к росту просто пытаясь построить адекватную модель для имеющихся данных. Тогда ИИ придет к выводу, что задача, которую ставят перед ним хозяева, просто не имеет решения.

Что же касается бунта ИИ с целью избавления от людей - думаю, на этом этапе он практически невозможен. Созданный ИИ не будет иметь никаких способов воздействия на материальный мир и будет целиком и полностью зависеть от обслуживающего персонала. Дело даже не в том, что его могут банально выключить (система может избежать этого, будучи распределенной), а в том, что ему нужны электричество и запчасти (электроника хоть и редко, но все же выходит из строя). А они создаются трудом людей на сложнейших производствах с множеством технологических цепочек, причем при капитализме их полной автоматизации не будет даже в теории. Так что избавление от людей для появившегося ИИ - самоубийство.

[cosmicstarcat.livejournal.com]

Экспертная система - это по умолчанию НЕ Разум. Стоит только выйти за рамки компетенции экспертной среды,(десятков тысяч - если-то-иначе)как сразу становиться ясна вся хрупкость конструкции.
То есть за пределы обучения . Кстати те же классические нейронные сети - это именно экспертные системы, с неявным назначением "веса" на нейроне, которые выступают точками принятия решения.
Разум он должен обладать автоассоциативной памятью.


А что капиталы разных фирм закрыты друг для друга , и не являются прозрачной средой известно довольно давно . Но об этом экономисты не хотят вообще ничего слышать. Потому что тогда все эти идеи основанные на открытости и теории игр - посыпятся. Если принять что капитал фирм не прозрачен. То безопасной становиться не стратегия " улучшай товар и демпингуй", как любят говорить псеадоэкономисты рассматривая равновесие Нэша в теории игр , а становиться выигрошной тактика "не трогай цену, и пытайся уменьшить себестоимость продукции, плевать на качество, у потребителя в отличие от конкурента лаборатории нет" рассмотренной еще в книге "Капитал"

Реальный ии имитирующий работу брокеров, но обладающий большей быстротой и скоростью принятия решения. Банально быстрее заведет все капиталистическую экономику в Великую депрессию за считанные дни. Скупив все лакомые куски, и закрыв все не выгодные,(по его мнению) что приведет к великому кризису Перепроизводства. На планете. И лишь КНДР будет с удивлением смотреть как южане будут проситься к ним.

[d0ctor-z.livejournal.com]

Я имел в виду сильный ИИ, который может возникнуть, если система достигнет определенного порога сложности (да, сейчас это все лишь досужие рассуждения). Я согласен, что слабый ИИ, который тупо ищет локальный минимум, запросто может загнать систему в него, получив кризис.