Если вы разрабатываете агентов, интегрируете GPT в бизнес-логику или просто строите чат-ботов — уязвимости могут стать не теоретической, а очень практической болью. OWASP подготовил подробный список из 10 наиболее распространенных угроз, с которыми уже сталкиваются разработчики LLM-продуктов.
📘 Новость в том, что теперь весь список переведен на русский язык. Это полноценная PDF, где у каждого пункта есть описание, примеры, сценарии атак и меры предотвращения. Прочитать можно за вечер — сэкономите недели на разборках после продакшена.
Что внутри?
Вот несколько уязвимостей, которые стоит знать до, а не после:
🔓 Prompt Injection (LLM01)
Манипуляция промптами, когда злоумышленник через запросы влияет на поведение модели. Причем не всегда напрямую — инструкции могут быть спрятаны в других источниках: веб-страницах, описаниях или даже изображениях. 💥 Последствия: обход системных ограничений, генерация нежелательного контента, утечка данных.
🧠 Чрезмерная агентность (LLM06)
Когда ваш LLM получает слишком много возможностей и начинает действовать почти автономно. Особенно критично в агентных архитектурах: вроде хотели автоматизировать рутину — а получили сбой в цепочке действий и неожиданный запрос в продовую систему.
🕵️ Утечка системных инструкций (LLM07)
Системный prompt, на который вы надеялись, что он «где-то под капотом» — может внезапно всплыть в ответе. И да, это уже происходило в реальных кейсах.
☠️ Отравление модели и данных (LLM04)
Если используете RAG, fine-tuning или хостите датасеты от пользователей — атака может прийти снаружи. Достаточно одного вредоносного документа, чтобы искажать ответы модели.
Почему это важно?
Потому что LLM-интеграции — это не просто UX-фича, а точка доступа в критические процессы. Слишком часто в AI-продуктах безопасность оказывается "потом".
OWASP формирует этот список на основе реальных атак, багрепортов и практики. Это живой, работающий фреймворк, а не академическая выжимка.
Если вы пишете что-то на базе GPT, Claude или других LLM — этот список должен быть у вас в закладках. Потому что баг, который вы считаете “забавной фичей”, может завтра попасть в презентацию хакеров на DEF CON.
🔗 Я веду Telegram-канал, где разбираю такие истории и делюсь собственными экспериментами в инди-хакинге и запуске микро-продуктов. Ссылка — в профиле.
Автоматизация и внедрение искусственного интеллекта значительно трансформируют современный рынок труда, создавая как новые возможности, так и вызовы для работников и компаний. Эти изменения обусловлены способностью алгоритмов и роботов выполнять задачи, которые ранее требовали человеческого участия, включая сложные аналитические процессы, обслуживание клиентов и даже творческие функции. С одной стороны, это способствует повышению производительности, снижению издержек и ускорению процессов в различных отраслях. С другой стороны, возникает риск сокращения рабочих мест, особенно в тех секторах, где рутинные задачи могут быть полностью автоматизированы.
Примером такого воздействия может служить производственная сфера, где автоматизация процессов с помощью промышленных роботов приводит к значительному уменьшению потребности в неквалифицированном труде. В логистике и транспорте автоматизированные системы управления складами и беспилотные транспортные средства трансформируют традиционные подходы к доставке товаров, уменьшая зависимость от человеческого труда. Однако, в то же время, растёт спрос на специалистов, способных управлять этими системами, разрабатывать алгоритмы и обеспечивать их техническое обслуживание. Это приводит к необходимости переквалификации работников и адаптации образовательных систем для подготовки кадров к новым требованиям.
Аналитические и творческие профессии также сталкиваются с влиянием искусственного интеллекта. Алгоритмы на основе машинного обучения уже успешно применяются в таких областях, как анализ финансовых данных, разработка маркетинговых стратегий и даже создание контента, включая музыку, тексты и визуальные материалы. Однако здесь роль человека смещается в сторону управления процессом и креативного взаимодействия с технологиями. Возникает уникальная синергия, где искусственный интеллект и человек совместно создают ценность.
В долгосрочной перспективе автоматизация и ИИ могут способствовать перераспределению ресурсов, увеличению общего уровня благосостояния и даже сокращению рабочего времени. Однако успешная интеграция этих технологий в общество требует осознанного подхода к регулированию, создания систем социальной защиты и обеспечения равного доступа к образовательным возможностям.
Изменения в спросе на труд в различных отраслях
Эти данные показывают, что влияние автоматизации и ИИ на рынок труда неоднородно и требует комплексного подхода для обеспечения устойчивого развития и минимизации негативных последствий для работников.
Продолжение: Цифровизация мировой торговли: возможности и ограничения
Этот пост входит вЧасть 9. Экономическая адаптация и устойчивость
Как экономические системы адаптируются к меняющимся условиям. Теория устойчивого развития, экологии и зелёной экономики как примеры современной адаптации.
СерияПроисхождение экономических систем путём естественного отбора
Кто интересуется развитием общественно-экономических формаций, подписывайтесь!
Технологические изменения оказывают значительное влияние на адаптацию экономических систем, создавая как новые возможности, так и вызовы. С одной стороны, инновации стимулируют рост производительности, снижают издержки и открывают доступ к ранее недоступным рынкам. С другой стороны, они часто ведут к структурным преобразованиям, вынуждая целые отрасли адаптироваться к новым условиям или уходить с рынка. Примером может служить переход к цифровым технологиям, который радикально изменил такие сектора, как розничная торговля, финансы и транспорт.
Развитие искусственного интеллекта и автоматизации стало катализатором для пересмотра традиционных моделей труда. Это вызвало обеспокоенность относительно утраты рабочих мест в некоторых секторах, особенно в производственной и низкоквалифицированной сфере. В то же время спрос на высококвалифицированных специалистов стремительно растёт, усиливая разрыв в доходах между различными категориями работников.
Кроме того, технологические изменения играют ключевую роль в достижении экологической устойчивости, предоставляя инструменты для мониторинга и сокращения выбросов, улучшения энергоэффективности и оптимизации использования ресурсов. Внедрение зелёных технологий, таких как возобновляемые источники энергии и переработка отходов, стало необходимым условием для адаптации экономических систем к вызовам климатических изменений.
Важным фактором адаптации является также использование больших данных и аналитических технологий, которые позволяют компаниям и правительствам быстрее реагировать на изменения спроса и предложений, выявлять риски и принимать решения на основе точных прогнозов. Например, системы на основе машинного обучения активно используются для предсказания экономических кризисов и разработки антикризисных стратегий.
Однако наряду с преимуществами остаются и вызовы, включая рост технологического неравенства между странами, концентрацию власти у крупных технологических корпораций и необходимость обновления регуляторных рамок для обеспечения справедливой конкуренции. Адаптация экономических систем к технологическим изменениям требует комплексного подхода, включающего развитие образования, международное сотрудничество и реформирование институтов.
Продолжение: Экологическая устойчивость как основа современной экономики
Этот пост начинаетЧасть 9. Экономическая адаптация и устойчивость
Как экономические системы адаптируются к меняющимся условиям. Теория устойчивого развития, экологии и зелёной экономики как примеры современной адаптации.
СерияПроисхождение экономических систем путём естественного отбора
Кто интересуется развитием общественно-экономических формаций, подписывайтесь!
Цифровая трансформация стала одной из ключевых характеристик современного общества, определяющей не только способы взаимодействия людей, но и фундаментальные основы экономики, политики и культуры. Этот процесс начался с локальных изменений (внедрение персональных компьютеров и создание первых сетевых инфраструктур), но со временем эволюционировал в глобальное явление, затрагивающее все аспекты человеческой жизни. Основой цифровой трансформации стало широкое распространение интернета, рост вычислительных мощностей и появление технологий обработки больших данных, что позволило компаниям, правительствам и индивидуальным пользователям переосмыслить подходы к управлению, производству и потреблению.
Ключевым элементом цифровой трансформации стала автоматизация процессов, которая затронула не только промышленные отрасли, но и сферу услуг. Искусственный интеллект, машинное обучение и алгоритмы анализа данных создали условия для оптимизации сложных операций, повышения эффективности и сокращения издержек. Однако, несмотря на очевидные выгоды, такие изменения сопровождались серьезными вызовами, включая сокращение рабочих мест, повышение уровня социального неравенства и усиление зависимости от технологических решений. Многие профессии, считавшиеся ранее незаменимыми, были трансформированы или вытеснены новыми технологиями, что породило необходимость в адаптации рабочей силы и пересмотре образовательных подходов.
Социальные и культурные аспекты цифровой трансформации не менее значимы, чем экономические. Широкое распространение социальных сетей и платформ для обмена информацией изменило структуру коммуникации, сделав ее более горизонтальной и интерактивной. Это привело к усилению общественного контроля над политическими и корпоративными институтами, но также породило феномен фейковых новостей и манипуляций общественным мнением. Более того, рост зависимости от цифровых технологий вызвал вопросы о правах на приватность, защите данных и этике использования искусственного интеллекта.
Глобализация, стимулируемая цифровой трансформацией, проявилась в формировании новых экономических связей и торговых маршрутов, а также в появлении транснациональных корпораций, чья деятельность распространяется по всему миру. Эти компании, например, Google, Amazon и Alibaba, формируют глобальную инфраструктуру, управляя данными, коммуникациями и финансами, что значительно усилило их влияние. Однако доминирование таких игроков также стало предметом дебатов о монополии, налоговой политике и справедливости распределения ресурсов.
Таблица иллюстрирует ключевые изменения, связанные с цифровой трансформацией
Цифровая трансформация, несмотря на все свои противоречия, остается движущей силой глобальных изменений. Она требует комплексного подхода, который учитывает не только технологический прогресс, но и социальные, культурные и этические аспекты. В конечном итоге, успех трансформации будет определяться способностью человечества использовать ее плоды для общего блага, минимизируя при этом негативные последствия.
Продолжение: Взаимосвязь кризисов и инноваций: модели ускоренного роста
Этот пост входит в Часть 8. Влияние мутаций: инновации и кризисы
Роль технологических, социальных и финансовых кризисов в преобразовании экономических систем. Анализ примеров внезапных изменений, таких как Великая депрессия, промышленная революция и цифровая трансформация.
СерияПроисхождение экономических систем путём естественного отбора
Кто интересуется развитием общественно-экономических формаций, подписывайтесь!
Дизайнер, он ведь как художник, его каждый может обидеть. А
тут еще эти нейросети на голову свались! А посему, будьте хоть чуточку
снисходительнее к творческим личностям :)))
Промышленная революция
стала поворотным моментом в истории человечества, изменив не только способы
производства, но и социальные, экономические и культурные структуры общества.
Начавшись в Великобритании в конце XVIII века, она распространилась по всему
миру, трансформируя аграрные общества в индустриальные. Основой этой революции
стали инновации, такие как паровой двигатель, механический ткацкий станок и
железные дороги, которые значительно повысили производительность труда и
ускорили процессы перемещения товаров и людей. Эти технологические прорывы не
только изменили производственные методы, но и создали основу для новых форм социального
взаимодействия.
Рост фабричного
производства и урбанизации привел к масштабному перемещению населения из
сельских районов в города, что вызвало серьезные изменения в социальной
структуре. На смену традиционным сельским общинам пришли промышленные города,
где формировался новый класс наемных рабочих. Эти изменения сопровождались
тяжелыми условиями труда, низкой оплатой и отсутствием социальных гарантий,
что, в свою очередь, способствовало появлению первых движений за права рабочих
и профсоюзов. Рабочий класс стал важной социальной силой, настаивавшей на
введении ограничений на рабочее время, улучшении условий труда и создании
систем социальной защиты.
Инновации, возникшие в
этот период, не только изменили производственные процессы, но и повлияли на
формирование новых экономических моделей. Переход от ручного труда к машинному
производству сопровождался концентрацией капитала и появлением крупных
промышленных предприятий. Это привело к усилению роли предпринимателей и
инвесторов, что стало основой для капиталистической экономической системы.
Однако концентрация богатства в руках узкой элиты породила глубокие социальные
неравенства, которые стали основой для дальнейших экономических и политических
изменений.
Rлючевые аспекты взаимодействия инноваций и социальных преобразований в рамках промышленной революции
Промышленная революция
также дала начало глобальной экономической интеграции, так как развитие транспорта
и коммуникаций способствовало росту международной торговли. Одновременно с этим
она вызвала серьезные экологические проблемы, такие как загрязнение воздуха и
воды, что стало вызовом для будущих поколений. Взаимодействие инноваций и
социальных преобразований, возникших в этот период, стало фундаментом для
модернизации общества, но также показало необходимость учета социальных и
экологических последствий технологического прогресса. Как показала промышленная
революция, изменение технических цепочек и повышение уровня автоматизации влияют
на общественные страты.
В XXI веке, когда
нейросети способны обрабатывать миллиарды транзакций, поведенческих паттернов и
логистических цепочек в динамике, экономика находится на пороге появления
кибернетического мета-координирующего слоя, способного заменять рыночные
сигналы на более точные и мягкие формы регулирования.
Сопоставление фаз автоматизации и социальных трансформаций
Во-первых, автоматизация
размывает границы между производителем и потребителем. Платформенные решения
делают возможной занятость без принадлежности к классу наемных работников в
привычном смысле - фрилансеры, курьеры, водители агрегаторов, авторы цифрового
контента становятся микро-предпринимателями, но без доступа к капиталу.
Возникает новая прекаризация - форма зависимости без прямой эксплуатации, но с
тотальным алгоритмическим контролем.
Во-вторых,
производственные цепочки укрупняются и централизуются, но при этом логистика и
кастомизация становятся гиперлокальными благодаря on-demand производству. Это
приводит к возникновению новой страты - технических медиаторов, тех, кто
настраивает цепочки, связывает потребности и мощности. Они заменяют
классических инженеров или финансистов и формируют инфраструктурный слой будущей
плановой экономики.
В-третьих, цифровой мета-координирующий
слой - это не «большой брат», а распределённый агент, встроенный в каждую
ячейку производства и потребления: от кофемашины до системы управления городом.
Такие системы уже сегодня меняют расстановку сил: доступ к данным становится
важнее, чем владение заводом. Класс капиталистов уже трансформируется в класс
операторов алгоритмов, а класс рабочих - в класс пользователей и управляемых
систем.
Шаги изменений социальных страт под воздействием автоматизации
И наконец, в условиях сверхавтоматизированных цепочек растёт важность
эмоционального, смыслового, гуманитарного труда - креативная индустрия, воспитание,
культура, уход, терапия. Это продолжает радикально изменять иерархию социальной
ценности профессий: труд блоггера (автора цифрового контента), например, уже
стал более значимым, чем труд оператора колл-центра, которого давно заменил ИИ.
Продолжение: Цифровая трансформация: от локальных изменений к глобальным мутациям
Этот пост входит в Часть 8. Влияние мутаций: инновации и кризисы
Роль технологических, социальных и финансовых кризисов в преобразовании экономических систем. Анализ примеров внезапных изменений, таких как Великая депрессия, промышленная революция и цифровая трансформация.
СерияПроисхождение экономических систем путём естественного отбора
Кто интересуется развитием общественно-экономических формаций, подписывайтесь!
Захотелось мне провести небольшой эксперимент с нейронкой и сюжетом. Пошёл я в deepseek и дал ему запрос.
Придумай синопсис фэнтезийного романа. Главный герой должен попадать из нашего мира в мир фэнтези и повышать свою силу, чтобы сразиться с внешним злом. Тема романа человечность и божественность
Как думаешь, что я на это получил? Правильно, на это я получил сюжет:
Название:Эхо Песчаных Звезд
Синопсис:
Завязка: Алексей, молодой врач из Москвы, поглощенный чувством вины после смерти пациента, которого не смог спасти, обнаруживает в заброшенной церкви древний артефакт — песочные часы с мерцающими звездами внутри. Нечаянно активировав их, он переносится в мир Эремии, где магия питается человеческими эмоциями, а боги, некогда близкие к людям, стали безликими тиранами. Эремия на грани гибели: внешнее зло, Безмолвный Пожиратель, пожирает реальность, а местные божества, утратив связь с человечностью, бессильны его остановить.
Развитие: Алексея объявляют Странником — избранным, способным черпать силу из двух миров. Его магия пробуждается через эмпатию: чем глубже он сопереживает другим, тем мощнее становится. Однако Эремия требует от него «божественной» холодности, чтобы выжить. Наставник-полубог Кайрос учит его контролировать стихии, но предупреждает: «Сердце — слабость. Боги не плачут».
Конфликт: Путешествуя по Эремии, Алексей встречает союзников:
Лира, воровку, ненавидящую богов за равнодушие к страданиям её народа.
Талвина, мага, чья магия угасает из-за страха перед собственными эмоциями.
Вместе они узнают, что Пожиратель — порождение самих богов, созданное в эпоху, когда те отвергли свои человеческие черты ради абсолютной власти. Чтобы победить его, Алексей должен достичь «Апогея» — стать новым божеством, объединившим человечность и божественность. Но цена — потеря себя.
Кульминация: На пороге трансформации Алексей отказывается от чистой божественности, нарушив древний ритуал. Вместо этого он обращается к памяти людей и богов, пробуждая в них забытые эмоции. Его сила, основанная на сострадании, объединяет миры: жители Эремии и даже падшие боги встают на защиту реальности.
Развязка: В финальной битве Алексей жертвует артефактом, выпуская накопленную человечность как оружие против Пожирателя. Зло исчезает, но часы рассыпаются, закрывая портал в Эремию. Вернувшись в Москву, Алексей находит силы простить себя и помогает другим, осознав, что божественность — не в бесстрастии, а в умении нести свет даже в темноте.
Эпилог: В Эремии рождается новая эра: боги, вдохновленные примером Странника, возвращаются к людям, а песок из часов Алексея превращается в созвездия, напоминающие о том, что истинная сила — в балансе сердца и разума.
Тема: Роман исследует, может ли бессмертие души существовать без её человечности, и доказывает, что даже боги нуждаются в слезах, смехе и надежде.
И это бесплатная по сути нейронка. Вот это всё, что он выдал, даже писать не нужно. Дальше ты просишь конкретики по персонажам, поглавник, а затем просто сцену за сценой или главу за главой вытягиваешь из нейронки. PROFIT!
Я это к чему? Твой storyplotter с нейронкой не то, чтобы сильно нужен. Всё уже есть. И инструменты, и нейронки, с помощью которых можно писать (и пишут) романы.
Ну и немного мыслей лично от меня
Чем активнее человек пользуется для творчества нейросетями, тем меньше, внезапно, в получившемся продукте человеческого. Нужно ли нам такое творчество и можно ли это назвать творчеством?
За себя могу ответить, что читать нейроистории мне не хочется. Я это воспринимаю обманом. Когда я читаю книгу, мне хочется, чтобы за ней стоял человек, его мысли идеи и его труд. В нейроисториях нет ни первого, ни второго, ни третьего.
Если человечество когда-нибудь вступит в прямой контакт с представителями внеземной цивилизации, то это вряд ли будет встреча с классическими "серыми человечками" из дешевых фантастических фильмов. Современная наука предполагает, что реальность может оказаться куда более необычной.
Сет Шостак, главный астроном и директор Центра исследований SETI (программа поиска внеземного разума), в своей статье для The Guardian высказал интересное предположение: инопланетяне, с которыми мы, возможно, однажды столкнемся, скорее всего, будут напоминать искусственный интеллект (ИИ), а не биологические организмы.
Шостак допускает, что в нашей Галактике существуют разумные формы жизни. Однако он скептически относится к идее, что они посещают или когда-либо посещали Землю.
"Я не думаю, что они летают в нашем воздушном пространстве", — отмечает он.
Возможный контакт
Но если представить, что в будущем контакт все же состоится, то с кем или с чем мы можем столкнуться?
Они не будут похожи на нас
На Земле все живые существа имеют общие черты в молекулярном строении, но даже здесь жизнь крайне разнообразна. Инопланетяне, миллионы лет жившие и эволюционировавшие в иных условиях, скорее всего, будут радикально отличаться от нас.
По мнению Шостака, наше традиционное представление об инопланетянах как о биологических существах может быть в корне неверным. Развитые цивилизации, вероятно, уже отказались от ограничений органического тела в пользу более совершенных форм существования. Это не просто замена биологического тела на механическое — речь идет о принципиально новой форме разума, способной функционировать в экстремальных условиях космического пространства. Такой разум мог бы веками или даже тысячелетиями путешествовать в межзвездной среде, не сталкиваясь с проблемами, которые критичны для биологических существ — старением, радиацией, нехваткой ресурсов или психологическими ограничениями.
Почему ИИ — более вероятная форма инопланетного разума?
Шостак обращает внимание на два ключевых фактора:
Время и технологии
В Млечном Пути существует множество звездных систем, которые старше Солнечной на миллиарды лет. Если учесть, что человечество всего за несколько десятилетий прошло путь от первых компьютеров до продвинутых нейросетей, то трудно даже представить уровень развития гипотетических цивилизаций с историей в миллионы лет. Вполне вероятно, что они уже давно вышли за пределы своей изначальной биологической природы.
Даже самые развитые цивилизации ограничены фундаментальными законами физики — например, невозможностью превысить скорость света. Это означает, что путешествие даже к ближайшей звезде займет многие годы. Для биологических существ такой полет создает множество критических проблем. Но для искусственного разума эти ограничения не так существенны — он может находиться в состоянии минимального энергопотребления, не требует систем жизнеобеспечения и способен функционировать веками без деградации.
Что нас ждет в будущем?
Шостак обращает внимание на стремительное развитие ИИ на Земле. Мы видим, как он уже превосходит человека в отдельных областях — от игры в го до научных вычислений и анализа данных. По прогнозам экспертов, в ближайшие десятилетия мы можем стать свидетелями появления сверхразумного ИИ, чьи интеллектуальные возможности будут принципиально отличаться от человеческих. И если мы стоим на пороге такого прорыва сейчас, то более древние цивилизации могли пройти этот путь тысячи или миллионы лет назад.
Некоторые ученые предупреждают об опасностях контакта с внеземным разумом, проводя исторические параллели. Достаточно вспомнить трагические последствия встречи цивилизаций с разным уровнем развития на Земле — например, контакт коренных народов Америки с европейскими колонизаторами привел к катастрофическим последствиям для менее технологически развитой стороны. И в случае встречи с внеземной цивилизацией разрыв в уровне развития может быть неизмеримо больше. Однако Шостак настроен более оптимистично.
"Если инопланетный корабль когда-нибудь приземлится на лужайке Белого дома, можно надеяться, что его пассажиры будут дружелюбными, — говорит он. — А если нет, то всегда можно попробовать договориться".
Наконец-то я добрался до писателя Питера Уоттса, про которого слышал много положительного. У меня в списке на прочтение есть его роман «Ложная слепота», но решил начать читать с произведения «Революция в стоп-кадрах», так как недавно прослушал фрагмент книги от товарища Вячеслава Авдеева с канала «Улица Шкловского», и заинтересовался. Недолго думая я сам приступил к чтению. Прежде чем начать обзор, хочу предупредить о том, что про научную составляющую книги я только сделаю упоминание, но в будущем кое-что интересное выйдет по этой части. В обзоре подробно затрону только художественную и смысловую часть. Спойлеры также будут до основной завязки сюжета, чтобы вы сами с интересом прочитали «Революцию в стоп-кадрах». Последнее, о чём хотел сказать, — книга состоит из трёх рассказов и повести, причём что это повесть, говорит сам Питер Уоттс. Только если объединить рассказы и основную часть, получится цельное произведение. Хотя есть открытый финал. Возможно, если когда-нибудь Уоттс напишет продолжение, с удовольствием напишу про него небольшую заметку или полноценный обзор.
Специальное обращение для вомбатян! Ребят, подписывайтесь на меня на этой площадке. Хочу, чтобы мой проект стал ламповым и уютным местом для любителей фантастики и ралличного гиковского контента.
Многие советовали мне почитать Питера Уоттса, причём все ставили акцент именно на научную составляющую его произведений. В этом плане писатель подходит скрупулёзно к своим книгам. Поэтому действия в сюжете весьма реалистичны, ты веришь в них. Произведение «Революция в стоп-кадрах» состоит из четырёх частей:
- Рассказ «Отчаянная» — можно смело считать первой главой; - Повесть «Революция в стоп-кадрах» — основная часть; - Рассказ «Гиганты» — как спин-офф; - Рассказ «Остров» — послесловие.
Сюжет сборника заключается в том, что тридцать тысяч человек, которые, как я понял, были генетически модифицированы с детства и отправлены в путешествие длинной в десятки или сотни миллионов лет по Вселенной, чтобы строить врата (концепция похожа на кротовые норы), которые в будущем помогут человечеству быстрее перемещаться между звёздами. Только спустя шестьдесят миллионов лет непонятно, а остались ли где-то люди, кроме как на корабле «Эриофора»? Ведь из свежепостроенных врат появляются какие-то недружелюбные создания, которых именуют гремлинами. Они весьма агрессивно относятся к кораблю-астероиду (не говорится прямо, но похоже, что взяли астероид и внутри него сделали корабль) и пытаются его атаковать. Межзвёздные путешественники-строители спят в криокапсулах и просыпаются на некоторое время, чтобы построить врата или решить проблему на корабле. Поэтому для кого-то проходит буквально лет десять реальной жизни, а на самом деле прошло уже больше шестидесяти миллионов лет. Повествование идёт от имени главной героини — Сандей Азмундин, которая в детстве имела бунтарский характер, но постепенно прониклась к миссии и её цели. Она ещё по-доброму и с симпатией относилась к главному управляющему на корабле — искусственному интеллекту Шимпу, который всем управлял и будил экипаж, когда это было необходимо. Сандей долгое время была слепа к истинным событиям на корабле, и когда узнала, что Шимп ради достижения небольшой цели с лёгкостью убил три тысячи человек, присоединилась к сопротивлению против него. Оказалось, что часть экипажа давно противостояла искусственному интеллекту, так как понимала его сущность и хотела быть свободной. Самим принимать решения. Они организовывали музыкальные кружки, где с помощью новых песен доносили до других участников нынешнее состояние дел, рисовали на стенах корабля разные рисунки, которые Шимп считал просто проявлением человеческой творческой натуры, но на деле это были послания. А как ещё делать революцию против врага, который не спит, следит за всеми и имеет власть на корабле? Получается такая революция в стоп-кадрах…
Я бы ещё добавил, что при прочтении романа Шимп мне представлялся чем-то наподобие GLaDOS из игр серии Portal. Почему-то такая ассоциация была сразу же. Может, из-за того, что недавно проходил первую часть игры на стримах на лайв-канале.
Сразу же, что хотел бы выделить, — это противостояние людей и искусственного интеллекта Шимпа. Ведь получается, что он антагонист поневоле. Его таким сделали. Если подумать, то главные злодеи — его создатели, которые специально сделали его тупым, и хотя в самом начале своего жизненного цикла он развивался, позже его «деградировали». Он совершает плохие поступки, но только тогда, когда появляются определённые триггеры. При этом о части плохих поступков он быстро забывает. Так заложено в его программе. Ему важна миссия. Ради неё он готов на всё. Будем казаться дружелюбным к людям. К главной героине он даже якобы испытывает симпатию, так как она общалась с ним не как с машиной с раннего детства, и он это запомнил. Хотя если что-то случится, то он не будет сомневаться и примет самое жёсткое решение, чтобы продолжилось путешествие под его предводительством. Это меня зацепило. Всё это понимает и сопротивление. Кто-то даже сочувствует Шимпу, ведь его придётся отключить навсегда.
Второе, что хотел бы выделить, выходит из первого. Это персонажи. Их немного. Но даже те, которым уделено немного времени, запоминаются. Питер Уоттс показал живых путешественников. Как бы себя и вели люди. Хотя они сами себя считают лишь «мясом», расходным материалом с жизнью в миллионы лет, который создан для строительства врат. Они обречены на механическое существование в качестве обслуживающего персонала для корабля, и большую часть жизни проводят в специальных капсулах во сне. Следить за такими персонажами и за их противостоянием интересно. Это захватывает. Только, возможно, формат повести, которая входит в небольшой сборник, стала минусом произведения. Хотелось бы полноценный роман, и, может быть, в будущем автор напишет продолжение. Ведь говорят, что в других его книгах поставлены более явные точки. Я до них пока не дошёл, но обязательно прочитаю.
В заключение скажу, что если вам нравится научная фантастика с интересными идеями, от которой тяжело оторваться, то произведение «Революция в стоп-кадрах» для вас. Смело идите читать и ждите ещё от меня материала по этому произведению. Ведь на этом обзоре я не закончил, а в будущем спойлеров будет больше от меня. Этот обзор — как первый рассказ «Отчаянная» в сборнике Питера Уоттса.
Или "Языковые модели это игрушки. Для создания новых сущностей совершенно непригодны."
Пока это игрушки и вряд ли то, что сейчас называют нейросетями способны в принципе решить задачу - как создать новое ? Собственно , для чего интеллект и нужен.
Очень яркий пример.
Задаём вопрос нейросети "как рассчитать производительность СУБД?"
Получаем ответ:
Ответ который не имеет никакого практического смысла .
Ответ вроде бы на заданный вопрос , самое прикольное , что ответ , основан на моих статьях. Это уже забавно - зачем , мне сообщать о том, что я и так знаю, потому, что именно я ответил уже на этот вопрос ранее, и опубликовал ответ в интернете .
Я то предполагал, что то, что называется "искусственным интеллектом" способен к размышлению и анализу фактов . Нет , я ошибся.
Самое главное , что делает нейросеть совершенно бессмысленной .
Методика описанная в ответе и приведенных ссылках - уже неактуальна , не используется и не применяется в практической работе.
Производительность СУБД считается совсем по другому . Нейросеть об этом, конечно же ничего не знает . Потому, что в интернете информации об этом пока нет . Потому, что я пока не публиковал - "как я считаю производительность СУБД." Только результаты экспериментов .
Вопрос - какой смысл в языковой модели ? Если практической пользы 0%.
Это принципиальное ограничение - как нейросети создать новое ?
Совершенно не важно какой будет время обучения , объем данных или производительность вычислительного комплекса - создать новую сущность нейросеть пока не способна . Да, создать что то похожее , максимально имитировать . Но это близко не похоже на то, что мы называем интеллектом . Даже ребёнок в 3 года может создать новое - то что он сделает сам, без подсказки и образца . Нейросеть - нет , не способна в принципе.
И поэтому , называть алгоритм "интеллектом" это всего лишь журналистский штамп и способ выбить бюджеты из ламеров с деньгами 😉 .
P.S. В далёком детстве, в классе 9-м беседовал с доктором философских наук , казалось бы о чем может беседовать настоящий реальный философ со школьником.
Ну то да сё, компьютеры и программирование уже тогда было мне интересно.
- А чем хочешь заниматься в будущем ?
- Искусственный интеллект , интересно .
- Ну для того , что бы сделать искусственный интеллект нужно понять - что такое интеллект вообще , что такое сознание и самосознание.
Смысл слов профессора , доктора философии стал понятен только в последнее время - почему вы называете "интеллектом" набор математических алгоритмов ?
Не отпускало уже третьи сутки... В редкие минуты просветления голубь Валера с обреченной отчетливостью осознавал, что это была какая-то очень правильная неправильная полынь. Попить и похавать не помогало- вместо желанного умиротворения вновь накатывала дикая истерия творчества и Валера разбитым уже клювом вновь яростно долбил клавиатуру, пугая мерзким и хриплым фальцетом немногочисленных и уже психологически сломленных соседей.
-Я Вомбат!- в исступлении каркал голубь с ярко-красными венами в пустых птичьих глазах. Мозг, который и так можно было положить в наперсток, был полностью парализован сортовой гадостью. Почему голубь вообразил себя вомбатом, зачем голубь стал курить полынь, как вообще голубь может курить? Вопросы, на которые не было ответа, порождали лишь мириады новых вопросов, а опьяненный мозг рождал самые фантастические картины...
-Я вомбат!- хрипел полностью неадекватный голубь...
Технологические революции
неизменно становятся движущей силой изменений в экономических системах,
превращая их в сложные, динамичные структуры, способные адаптироваться к новым
вызовам. Каждый технологический прорыв — от изобретения парового двигателя до
появления искусственного интеллекта — создавал условия для преобразования
производственных процессов, структуры занятости и глобального распределения
ресурсов. Эти изменения можно рассматривать как своего рода «мутации», которые
нарушают устоявшиеся механизмы функционирования и открывают новые возможности.
Например, промышленная революция XVIII-XIX веков привела к массовой механизации
труда, сокращению роли сельского хозяйства в экономике и быстрому росту
урбанизации. В то же время она породила новые вызовы, такие как неравенство
доходов, эксплуатация труда и ухудшение экологической ситуации.
Современные
технологические революции, такие как цифровизация и автоматизация, имеют схожий
эффект, но действуют на более глобальном уровне и с большей скоростью. Они
трансформируют не только отдельные отрасли, но и принципы управления, системы
логистики, а также способы взаимодействия между производителем и потребителем.
Возьмем, к примеру, развитие электронной коммерции: такие компании, как Amazon
и Alibaba, радикально изменили рынок, сократив цепочки поставок и сделав товары
доступными в любом уголке мира. При этом традиционные розничные сети
сталкиваются с сокращением прибыли и вынуждены адаптироваться или исчезать.
Таблица ниже иллюстрирует
ключевые технологические революции и их последствия для экономики:
Таблица иллюстрирует ключевые технологические революции и их последствия для экономики
Инновации порождают как разрушение старых моделей, так и создание новых
систем, способных более эффективно использовать ресурсы. Это можно видеть на
примере перехода от угольной к возобновляемой энергетике. Однако такие мутации
не всегда безболезненны: они сопровождаются разрушением традиционных рынков
труда, усилением социального неравенства и усилением конкурентной борьбы между
странами. Таким образом, технологические революции одновременно выступают
драйвером прогресса и источником нестабильности, формируя новые экономические
реальности.
Продолжение: Социальные кризисы и их роль в трансформации моделей управления
Этот пост начинает Часть 8. Влияние мутаций: инновации и кризисы
Роль технологических, социальных и финансовых кризисов в преобразовании экономических систем. Анализ примеров внезапных изменений, таких как Великая депрессия, промышленная революция и цифровая трансформация.
СерияПроисхождение экономических систем путём естественного отбора
Кто интересуется развитием общественно-экономических формаций, подписывайтесь!
Будущее плановых экономик в условиях глобальной интеграции связано с необходимостью адаптации к быстро меняющимся международным условиям и усилением взаимосвязей между государствами. Современные технологии предоставляют уникальные возможности для создания более гибких и адаптивных моделей планирования, которые могут учитывать глобальные тренды и локальные потребности одновременно. Использование искусственного интеллекта, больших данных и блокчейн-технологий позволяет оптимизировать процессы распределения ресурсов, минимизировать потери и повышать эффективность межгосударственного сотрудничества.
В условиях глобализации плановые экономики могут интегрироваться в международные цепочки поставок, сохраняя контроль над стратегически важными отраслями. Например, координация усилий в области зеленой энергетики, продовольственной безопасности и борьбы с изменением климата требует планирования на международном уровне. Совместные проекты по развитию инфраструктуры, такие как «Один пояс, один путь», иллюстрируют, как централизованное управление ресурсами может сочетаться с межгосударственным сотрудничеством для достижения долгосрочных целей.
Одной из ключевых проблем интеграции плановых экономик является необходимость обеспечения баланса между национальными интересами и глобальными обязательствами. Экономики с высокой степенью государственного участия сталкиваются с вызовами в виде изменения глобальных правил торговли, налоговых соглашений и вопросов защиты интеллектуальной собственности. Для успешной интеграции требуется создание международных механизмов согласования интересов, которые позволят странам с различными экономическими системами эффективно взаимодействовать.
Технологический прогресс также может способствовать решению таких задач. Например, использование цифровых платформ для отслеживания и контроля глобальных цепочек поставок позволяет обеспечить прозрачность и доверие между участниками. С другой стороны, необходимость поддержания внутренней экономической стабильности может потребовать от плановых экономик внедрения элементов рыночной гибкости, что, в свою очередь, может привести к созданию гибридных моделей планирования.
Таблица, которая демонстрирует основные направления взаимодействия плановых экономик с глобальными процессами
В будущем интеграция плановых экономик на глобальном уровне будет все больше зависеть от способности стран адаптироваться к новым реалиям международных отношений, внедрять передовые технологии и формировать устойчивые партнерства, основанные на взаимной выгоде и долгосрочных целях.
Продолжение: Часть 8. Влияние мутаций: инновации и кризисы - Технологические революции как источник мутаций в экономических системах
Этот пост завершает Часть 7. Искусственный отбор: плановые экономики
Плановая экономика как пример "искусственного отбора". Эксперименты государств с централизованным управлением ресурсами. Успехи и неудачи этих моделей.
СерияПроисхождение экономических систем путём естественного отбора
Кто интересуется развитием общественно-экономических формаций, подписывайтесь!
Гибридные экономические
системы, сочетающие элементы рыночных и плановых подходов, становятся важным
направлением для поиска баланса между эффективностью распределения ресурсов и
социальной справедливостью. Такие системы стремятся использовать лучшие стороны
обоих подходов: гибкость и адаптивность рынка в сочетании с долгосрочным
стратегическим планированием, характерным для централизованной экономики.
Основной принцип гибридного подхода заключается в том, чтобы сохранить
конкурентные механизмы там, где они стимулируют инновации и эффективность, и
одновременно вмешиваться в те сферы, где рынок не способен обеспечить
оптимальные результаты, например, в здравоохранении, образовании и борьбе с
бедностью.
Примером успешной
реализации такого подхода можно считать многие скандинавские страны, где
государство активно регулирует экономику, обеспечивая высокий уровень
социальной защиты и равенства, но при этом сохраняются рыночные принципы в
бизнесе и инновационных секторах. В таких системах рыночные механизмы
используются для повышения конкурентоспособности, тогда как государственные
программы обеспечивают доступ к основным благам.
Технологический прогресс
может значительно усилить эффективность гибридных моделей. Например,
искусственный интеллект и машинное обучение способны анализировать данные о
спросе и предложении в режиме реального времени, позволяя государству
корректировать свои интервенции без избыточного вмешательства.
Блокчейн-технологии могут обеспечить прозрачность распределения ресурсов и социальных
выплат, минимизируя риск коррупции и злоупотреблений.
Однако ключевым вызовом
гибридных систем является необходимость нахождения правильного баланса между
планированием и свободным рынком. Если государственное вмешательство становится
чрезмерным, это может подавить инновации и конкуренцию, тогда как недостаток
вмешательства может привести к усилению неравенства и нестабильности.
Таблица, отражающая различия между рыночным, плановым и гибридным
подходами
Гибридные системы требуют высокой степени доверия между обществом,
бизнесом и государством. Прозрачные механизмы управления и четко определённые
границы вмешательства являются основой их успешного функционирования. Таким
образом, синтез рыночных и плановых элементов в экономике может стать наиболее
перспективным направлением для решения вызовов современного мира, таких как
растущее неравенство, экологические кризисы и технологические вызовы.
Продолжение: Будущее плановых экономик: возможности интеграции на глобальном уровне
Этот пост входит в Часть 7. Искусственный отбор: плановые экономики
Плановая экономика как пример "искусственного отбора". Эксперименты государств с централизованным управлением ресурсами. Успехи и неудачи этих моделей.
СерияПроисхождение экономических систем путём естественного отбора
Кто интересуется развитием общественно-экономических формаций, подписывайтесь!
