d0ctor_z: (Default)
d0ctor_z ([personal profile] d0ctor_z) wrote2017-07-17 11:36 am

Основная угроза

Илон Маск рассказал о «фундаментальной угрозе» для всего человечества - такой заголовок я увидел сегодня на РБК. Цитаты:

Основатель SpaceX и Tesla Илон Маск заявил, что основной угрозой для человечества является искусственный интеллект.

«Искусственный интеллект — фундаментальный риск для человечества. ДТП, авиакатастрофы, некачественные лекарства и плохая еда такими не являются», — сказал Маск.

По его словам, это та область разработки, которую необходимо регулировать на государственном уровне, а также искусственно ограничивать скорость, с которой такие технологии распространяются. «Искусственный интеллект — редкий случай, когда необходимо быть проактивными в области государственного регулирования», — отметил Маск.


Ну и самое веселое:

Маск подчеркивает, что основная опасность исходит от внедрения технологий искусственного интеллекта в интернет. «Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — считает он. В качестве примера Илон Маск привел гипотетическую ситуацию, при которой искусственный интеллект может делать инвестиции в оборонную промышленность, а затем использовать взломы и распространение дезинформации, чтобы спровоцировать войну.

"Гипотетическая ситуация", во-первых, приписывает ИИ, "делающему инвестиции", стремление увеличить капитал, то есть, по сути, представляет ИИ как персонификацию капитала. Во-вторых, эта "гипотетическая ситуация" постоянно создается капиталом безо всякого ИИ и без Интернета (хватало газет, радио и ТВ) уже больше сотни лет. И Маск предлагает поставить разработку ИИ под контроль тех самых империалистических государств, которые, выражая интересы крупного капитала, продолжают заниматься тем же самым и сейчас.

Есть у меня подозрение, что на самом деле Маск боится ИИ, особенно ИИ в области управления и экономики, по совершенно иной причине. Если уж плановая экономика показала великолепные результаты безо всяких ИИ и компьютеров, с бумажными технологиями и арифмометрами, то современные технологии более чем достаточны для того, чтобы ликвидировать хаос рынка полностью. Производительным силам давно уже тесно в оковах капитализма, который и является фундаментальной угрозой.

[identity profile] v-vodokachkin.livejournal.com 2017-07-25 02:51 am (UTC)(link)
Теоретически можно представить ПОЛНОСТЬЮ автоматизированную и саморегулирующуюся экономику, вмешательство человека в функционирование которой уже не требуется. Но я бы заявил, не пускаясь в данном случае в долгие выкладки, что капитализм таковую создать принципиально неспособен. Он полную глобализацию не в состоянии осуществить, а не то что...

[identity profile] d0ctor-z.livejournal.com 2017-07-25 07:02 am (UTC)(link)
Именно так. Не будет при капитализме ни полной автоматизации, ни самовоспроизводящихся разумных роботов. Над взаимодействием сильных ИИ, созданных человеком (а таковые все равно появятся), и людей думать будет нужно, но сильно позже. Сначала надо социализм построить.