Обзор мировых стартапов в области безопасности ИИ демонстрирует, что вопросы защиты технологий становятся неотъемлемой составляющей инновационного процесса. В условиях стремительного развития ИИ компании по всему миру пытаются найти баланс между созданием мощных систем и обеспечением их безопасности.
В июне 2024 года Илья Суцкевер, один из ведущих мировых экспертов в области искусственного интеллекта и бывший главный научный сотрудник OpenAI, объявил о запуске стартапа Safe Superintelligence (SSI).
Главная цель SSI — разработка систем, способных значительно превосходить человеческие возможности, при этом безопасность этих систем будет обеспечиваться методами, сравнимыми с ядерной безопасностью.
Как отмечается в материалах Forbes, в ходе последнего раунда финансирования проект привлек более $1 млрд, а оценка компании выросла с $5 млрд до более чем $30 миллардов. Данный факт подчеркивает серьезность намерений команды и растущий интерес инвесторов к решениям в области безопасности ИИ.
Соучредителями SSI стали Дэниел Гросс — бывший руководитель отдела ИИ в Apple, и Дэниел Леви, ранее работавший в OpenAI. Суцкевер подчеркивает, что компания планирует сосредоточить усилия на создании узкоспециализированной команды инженеров и исследователей, что позволит избежать избыточного коммерческого давления и сконцентрироваться на фундаментальных вопросах безопасности.
Мира Мурати, ранее занимавшая пост технического директора OpenAI, пригласила Джона Шульмана, одного из сооснователей компании, присоединиться к своему новому стартапу. В конце осени Мурати сообщила о своих планах привлечь более $100 млн для своей компании.
Среди молодых компаний внимание привлек и проект Human, основанный 23-летним предпринимателем Кириллом Аверьяновым. Стартап направлен на создание децентрализованной блокчейн-системы верификации, которая позволяет различать реальных пользователей и ИИ-агентов в интернете.
Система предоставляет уникальный цифровой идентификатор — Human ID, который обеспечивает защиту от мошенничества и поддельных аккаунтов. В рамках pre-seed-раунда Human привлек около $7,3 млн, что свидетельствует о высоком интересе венчурных инвесторов к инновационным решениям в области кибербезопасности.
Мировой рынок стартапов в области безопасности ИИ демонстрирует устойчивый рост — ежегодно инвесторы выделяют рекордные суммы на проекты, способные обеспечить контроль над автономными системами. От разработки безопасных систем суперинтеллекта до создания решений для цифровой верификации — каждая инициатива решает уникальные задачи. В условиях постоянного увеличения объема данных и растущих требований к безопасности подобные проекты задают новые стандарты в индустрии, стимулируя дальнейшие исследования и разработки.
Совмещая передовые научные и практические решения, стартапы, такие как SSI и Human, прокладывают путь к будущему, в котором искусственный интеллект станет мощным инструментом, но останется под контролем человека.
