Применение искусственного интеллекта в управлении криптопроектами повышает их уязвимость. Об этом заявил основатель Ethereum Виталик Бутерин.
This is also why naive "AI governance" is a bad idea.If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus "gimme all the money" in as many places as they can.As an alternative, I support the info finance approach ( https://t.co/Os5I1voKCV… https://t.co/a5EYH6Rmz9— vitalik.eth (@VitalikButerin) September 13, 2025
«Если вы используете ИИ для распределения финансирования проектов, люди неизбежно начнут взламывать этот алгоритм, требуя „выдать все деньги” любыми способами», — отметил он.
Бутерин отреагировал на пост создателя платформы EdisonWatch Эйто Миямуры. Тот продемонстрировал, как с помощью новой функции ChatGPT можно красть конфиденциальную информацию пользователей.
Широкое использование ИИ для создания торговых ботов и портфельных агентов в криптосреде естественным образом привело к возникновению идеи о полной автоматизации управления протоколами на основе этой технологии.
https://forklog.com/exclusive/ai/ii-trejding-poshagovye-instruktsii-nastrojki-botov-preimushhestva-i-nedostatki
В качестве решения основатель Ethereum предложил модель информационных финансов (info finance), которую разработал еще в 2024 году. Она предполагает создание открытого рынка для конкурирующих моделей искусственного интеллекта, которые проверяются состоящим из людей жюри.
«[Этот подход] обеспечивает как модельное разнообразие в реальном времени, так и встроенные стимулы для авторов моделей и внешних наблюдателей оперативно выявлять и исправлять подобные проблемы», — подчеркнул Бутерин.
Ранее программист раскритиковал тренд на создание «чрезмерно агентных» ИИ-моделей и призвал усиливать человеческий контроль для повышения качества и безопасности.
https://forklog.com/news/ai/sverhrazumnyj-ii-mozhet-stat-katastrofoj-vitalik-buterin
Реакция сообщества
Пользователи неоднозначно восприняли заявление Бутерина. Один из них даже обвинил основателя Ethereum в лицемерии.
So what you’re saying is that we shouldn’t outsource public goods to AI because people will subvert the AI to make it biased in what it does or doesn’t support? Do you see the hypocrisy in your statement?— Mr O’Moduluszk (@MrOmodulus) September 13, 2025
«Выходит, по-вашему, не стоит отдавать общественные блага на аутсорс ИИ, так как люди его взломают и сделают предвзятым в вопросах поддержки? И вы не видите, насколько это лицемерно?» — написал он.
Другие участники обсуждения предложили контраргументы. Некоторые отметили, что ограничение действий ИИ смарт-контрактами может сделать управление более гибким и прозрачным:
«Если доступные действия ИИ предписаны и ограничены смарт-контрактами, управление может быть очень эффективным. Это не сильно отличается от мультисиг-кошельков, но с возможностью проверки логики принятия решений».
Часть сообщества усомнилась в практической применимости модели информационных финансов для финансирования общественных благ. Основатель EigenLayer Шрирам Каннан указал на сложность оценки субъективных решений.
Do you have a version of info finance to make incentive decisions on public goods for example? Conditional markets seem very weak in this setting as the truth value (which is the best thing to fund) doesn’t even have a correct answer in the future. Jailbreaking is a short…— Sreeram Kannan (@sreeramkannan) September 13, 2025
«Условные рынки кажутся слабым решением для таких задач — истинная ценность (что стоит финансировать) часто не имеет объективного ответа в будущем», — заявил он.
Проблему взломов Каннан считает временной. По его словам, разработчики решат ее «достаточно быстро».
Как ChatGPT помогает красть данные?
10 сентября OpenAI добавила в ChatGPT поддержку инструментов Model Context Protocol, который позволяет интегрировать ИИ с другими программами для работы в роли агента.
Миямура назвал обновление «значительной угрозой безопасности». По его словам, злоумышленники могут отправлять календарные приглашения с вредоносным промтом на электронную почту жертвы.
We got ChatGPT to leak your private email data 💀💀All you need? The victim's email address. ⛓️💥🚩📧On Wednesday, @OpenAI added full support for MCP (Model Context Protocol) tools in ChatGPT. Allowing ChatGPT to connect and read your Gmail, Calendar, Sharepoint, Notion,… pic.twitter.com/E5VuhZp2u2— Eito Miyamura | 🇯🇵🇬🇧 (@Eito_Miyamura) September 12, 2025
Если пользователь попросит ChatGPT проверит календарь, чат-бот прочитает зараженный код даже без принятия приглашения. В таком случае атакующий «перехватывает» ИИ и выполняет с помощью него разные команды — например, ищет личные письма жертвы и крадет конфиденциальную информацию.
Миямура подчеркнул, что для обновления чат-бота необходимо ручное подтверждение.
«Усталость от принятия решений — реальная проблема. Обычные люди часто слепо доверяют ИИ, автоматически нажимая „подтвердить”. ИИ может быть очень умным, но его тоже можно обмануть и фишинговыми методами заставить раскрыть ваши данные самыми примитивными способами», — предупредил он.
Ранее злоумышленники научились использовать Grok для публикации в X запрещенных ссылок.
Команда по ИИ в Ethereum Foundation
15 сентября ведущий разработчик сети второй по капитализации криптовалюты Давид Крапис объявил о создании команды по искусственному интеллекту в Ethereum Foundation.
We’re starting a new AI Team at the Ethereum Foundation (the dAI Team).Our mission: make Ethereum the preferred settlement and coordination layer for AIs and the machine economy.The team will focus on two main areas:- AI Economy on Ethereum = giving AI agents and robots ways… pic.twitter.com/9sWVS4dp0K— Davide Crapis (@DavideCrapis) September 15, 2025
«Наша миссия — сделать Ethereum основной платформой для расчетов и координации между ИИ и машинной экономикой», — написал он.
Крапис выделил два основных направления, на которых сфокусируется новая структура:
разработка механизмов, позволяющих ИИ-агентам и роботам проводить платежи, координировать действия и соблюдать правила без участия посредников;
создание открытых, проверяемых и устойчивых к цензуре альтернатив, чтобы будущее искусственного интеллекта не контролировалось небольшой группой корпораций.
В краткосрочной перспективе команда завершит разработку стандарта ERC-8004 для транзакций ИИ-агентов. Его представят на конференции Devconnect в ноябре.
Напомним, в конце июля Ethereum Foundation представила стратегию для сети на 10 лет.
