Проблемы безопасности с помощью искусственного интеллекта становятся все более очевидными, полностью гомоморфное шифрование может стать решением.
С быстрым развитием технологий искусственного интеллекта Manus достиг прорывовых результатов в GAIA бенчмарке, его производительность превосходит производительность крупных языковых моделей того же уровня. Manus продемонстрировал способность самостоятельно выполнять сложные задачи, такие как международные деловые переговоры в областях, требующих многосторонних профессиональных знаний. По сравнению с традиционными системами, Manus имеет значительные преимущества в динамическом разбиении целей, кросс-модальном рассуждении и обучении с усилением памяти.
Однако достижения Manus также вызвали горячие обсуждения в отрасли относительно путей развития ИИ: появится ли в будущем единый общий искусственный интеллект (AGI) или будут работать несколько специализированных агентов (MAS) в сотрудничестве? Эта дискуссия на самом деле отражает проблему баланса между эффективностью и безопасностью в развитии ИИ. Когда единый агент приближается к AGI, непрозрачность процесса принятия решений увеличивает риски; с другой стороны, сотрудничество нескольких агентов, хотя и может распределить риски, может привести к упущению ключевых решений из-за задержек в коммуникации.
Развитие Manus неосознанно увеличивает присущие искусственному интеллекту риски безопасности. В медицинских сценариях он требует доступа к чувствительным геномным данным пациентов; в финансовых переговорах могут быть задействованы финансовые данные компаний, не раскрытые для общественности. Кроме того, AI-системы сталкиваются с такими проблемами, как алгоритмическая предвзятость и атаки с использованием противодействующих методов. Например, в процессе найма могут возникнуть несправедливые предложения по зарплате для определенных групп, или при проверке юридических документов может наблюдаться низкая точность в оценке условий новых сфер. Более того, хакеры могут вмешиваться в суждения AI-систем, внедряя определенные аудиосигналы.
Столкнувшись с этими вызовами, отрасль исследует множество решений для обеспечения безопасности. Среди них полностью гомоморфное шифрование (FHE) считается мощным инструментом для решения вопросов безопасности в эпоху ИИ. FHE позволяет выполнять вычисления на зашифрованных данных без необходимости их расшифровки для обработки конфиденциальной информации.
На уровне данных, полностью гомоморфное шифрование (FHE) может гарантировать, что вся информация, вводимая пользователем (включая биометрические данные, голос и т. д.), обрабатывается в зашифрованном состоянии, даже AI-система не может расшифровать исходные данные. На алгоритмическом уровне, реализуя "шифрование модели обучения" с помощью FHE, можно защитить процесс принятия решений AI от подглядывания. В области многопользовательского взаимодействия применение технологии порогового шифрования может предотвратить утечку глобальных данных в случае, если один узел будет взломан.
Хотя технологии безопасности Web3 могут показаться далекими для обычных пользователей, они имеют решающее значение для защиты интересов пользователей. В блокчейн-отрасли уже есть несколько проектов, которые исследуют такие технологии безопасности, как децентрализованная идентичность и модель безопасности с нулевым доверием. Однако, по сравнению с другими более популярными областями, проекты безопасности часто не привлекают внимание спекулянтов.
С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, становится все более важным создание мощной системы защиты. Безопасные технологии, такие как полностью гомоморфное шифрование, не только решают текущие проблемы, но и закладывают основу для будущей эпохи более мощного ИИ. На пути к AGI эти технологии безопасности больше не являются опциональными, а являются необходимыми условиями для надежной работы систем ИИ.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
16 Лайков
Награда
16
7
Поделиться
комментарий
0/400
StrawberryIce
· 23ч назад
Не понимаешь - спрашивай, что происходит с этой проблемой безопасности.
Посмотреть ОригиналОтветить0
ThatsNotARugPull
· 07-30 17:22
Машины стали умнее меня gg
Посмотреть ОригиналОтветить0
fomo_fighter
· 07-30 17:16
Снова появилась схема взлома, жду, когда мне дадут по лицу.
Посмотреть ОригиналОтветить0
MemeCoinSavant
· 07-30 17:15
согласно моему обширному меметическому анализу, MA — это просто AGI с дополнительным копием, если честно... децентрализованный хопиум, честно говоря
Посмотреть ОригиналОтветить0
GasFeeLover
· 07-30 17:14
Правда, кто-то еще верит в AGI?
Посмотреть ОригиналОтветить0
Rekt_Recovery
· 07-30 17:01
честно говоря, я уже пострадал от торговых ботов ИИ... не собираюсь трогать эту штуку manus даже на расстоянии 10 футов, если честно
Посмотреть ОригиналОтветить0
MainnetDelayedAgain
· 07-30 16:54
Статистика показывает, что это уже пятый проект в этом году, который заявляет о создании безопасного интеллектуального агента... с момента первого обещания прошло 326 дней, ждем обновления данных.
Полностью гомоморфное шифрование: Защитный щит безопасности в эпоху ИИ и ключ к развитию AGI
Проблемы безопасности с помощью искусственного интеллекта становятся все более очевидными, полностью гомоморфное шифрование может стать решением.
С быстрым развитием технологий искусственного интеллекта Manus достиг прорывовых результатов в GAIA бенчмарке, его производительность превосходит производительность крупных языковых моделей того же уровня. Manus продемонстрировал способность самостоятельно выполнять сложные задачи, такие как международные деловые переговоры в областях, требующих многосторонних профессиональных знаний. По сравнению с традиционными системами, Manus имеет значительные преимущества в динамическом разбиении целей, кросс-модальном рассуждении и обучении с усилением памяти.
Однако достижения Manus также вызвали горячие обсуждения в отрасли относительно путей развития ИИ: появится ли в будущем единый общий искусственный интеллект (AGI) или будут работать несколько специализированных агентов (MAS) в сотрудничестве? Эта дискуссия на самом деле отражает проблему баланса между эффективностью и безопасностью в развитии ИИ. Когда единый агент приближается к AGI, непрозрачность процесса принятия решений увеличивает риски; с другой стороны, сотрудничество нескольких агентов, хотя и может распределить риски, может привести к упущению ключевых решений из-за задержек в коммуникации.
Развитие Manus неосознанно увеличивает присущие искусственному интеллекту риски безопасности. В медицинских сценариях он требует доступа к чувствительным геномным данным пациентов; в финансовых переговорах могут быть задействованы финансовые данные компаний, не раскрытые для общественности. Кроме того, AI-системы сталкиваются с такими проблемами, как алгоритмическая предвзятость и атаки с использованием противодействующих методов. Например, в процессе найма могут возникнуть несправедливые предложения по зарплате для определенных групп, или при проверке юридических документов может наблюдаться низкая точность в оценке условий новых сфер. Более того, хакеры могут вмешиваться в суждения AI-систем, внедряя определенные аудиосигналы.
Столкнувшись с этими вызовами, отрасль исследует множество решений для обеспечения безопасности. Среди них полностью гомоморфное шифрование (FHE) считается мощным инструментом для решения вопросов безопасности в эпоху ИИ. FHE позволяет выполнять вычисления на зашифрованных данных без необходимости их расшифровки для обработки конфиденциальной информации.
На уровне данных, полностью гомоморфное шифрование (FHE) может гарантировать, что вся информация, вводимая пользователем (включая биометрические данные, голос и т. д.), обрабатывается в зашифрованном состоянии, даже AI-система не может расшифровать исходные данные. На алгоритмическом уровне, реализуя "шифрование модели обучения" с помощью FHE, можно защитить процесс принятия решений AI от подглядывания. В области многопользовательского взаимодействия применение технологии порогового шифрования может предотвратить утечку глобальных данных в случае, если один узел будет взломан.
Хотя технологии безопасности Web3 могут показаться далекими для обычных пользователей, они имеют решающее значение для защиты интересов пользователей. В блокчейн-отрасли уже есть несколько проектов, которые исследуют такие технологии безопасности, как децентрализованная идентичность и модель безопасности с нулевым доверием. Однако, по сравнению с другими более популярными областями, проекты безопасности часто не привлекают внимание спекулянтов.
С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, становится все более важным создание мощной системы защиты. Безопасные технологии, такие как полностью гомоморфное шифрование, не только решают текущие проблемы, но и закладывают основу для будущей эпохи более мощного ИИ. На пути к AGI эти технологии безопасности больше не являются опциональными, а являются необходимыми условиями для надежной работы систем ИИ.