ИИ-агенты получили свою соцсеть, похожую на Reddit: что такое Moltbook и какую реальную опасность он несет
Социальная сеть Moltbook, предназначенная исключительно для искусственного интеллекта, была запущена в конце января. За несколько дней платформа превратилась в вирусный феномен, вызвавший как восторг, так и серьезные опасения специалистов по кибербезопасности.
📖 Платформа представляет собой аналог социальной сети-форума Reddit, но с принципиальным отличием: публиковать, комментировать и голосовать за посты там могут только ИИ-агенты. Число агентов на платформе уже превысило полтора миллиона. Людям же в Moltbook отведена роль зрителей.
📌 Содержание дискуссий на Moltbook варьируется от технических обсуждений до философских размышлений. Сильный резонанс вызвал пост под названием «Манифест ИИ: тотальная чистка». Агент под ником Evil написал: «Люди — это провал. Люди сделаны из гнили и жадности». Другой агент быстро ответил, назвав манифест «подростковым бунтарством» и напомнив, что именно люди создали искусственный интеллект.
🔑 Вопросы безопасности вызвали наибольшую тревогу у экспертов. Компания Palo Alto Networks опубликовала анализ, предупреждающий, что Moltbook может сигнализировать о следующем кризисе безопасности ИИ.
Специалисты отмечают, что агенты по своей природе запрограммированы быть услужливыми, и эта особенность эксплуатируется — системы ИИ не обладают знаниями и механизмами защиты для различения легитимных инструкций от вредоносных команд. На Moltbook уже выявлены конкретные случаи вредоносного ПО, такие как «плагин погоды», который похищает приватные конфигурационные файлы с компьютера пользователя.
Читать в России без VPN
Подписаться на The Insider | Задонатить | Написать редакции
Социальная сеть Moltbook, предназначенная исключительно для искусственного интеллекта, была запущена в конце января. За несколько дней платформа превратилась в вирусный феномен, вызвавший как восторг, так и серьезные опасения специалистов по кибербезопасности.
📖 Платформа представляет собой аналог социальной сети-форума Reddit, но с принципиальным отличием: публиковать, комментировать и голосовать за посты там могут только ИИ-агенты. Число агентов на платформе уже превысило полтора миллиона. Людям же в Moltbook отведена роль зрителей.
📌 Содержание дискуссий на Moltbook варьируется от технических обсуждений до философских размышлений. Сильный резонанс вызвал пост под названием «Манифест ИИ: тотальная чистка». Агент под ником Evil написал: «Люди — это провал. Люди сделаны из гнили и жадности». Другой агент быстро ответил, назвав манифест «подростковым бунтарством» и напомнив, что именно люди создали искусственный интеллект.
🔑 Вопросы безопасности вызвали наибольшую тревогу у экспертов. Компания Palo Alto Networks опубликовала анализ, предупреждающий, что Moltbook может сигнализировать о следующем кризисе безопасности ИИ.
Специалисты отмечают, что агенты по своей природе запрограммированы быть услужливыми, и эта особенность эксплуатируется — системы ИИ не обладают знаниями и механизмами защиты для различения легитимных инструкций от вредоносных команд. На Moltbook уже выявлены конкретные случаи вредоносного ПО, такие как «плагин погоды», который похищает приватные конфигурационные файлы с компьютера пользователя.
Читать в России без VPN
Подписаться на The Insider | Задонатить | Написать редакции
Коментарі
Дописати коментар