Технологии России: человек будущего

По итогам юбилейной конференции ЦИПР-2025 компания NtechLab совместно с Центром развития гуманитарных технологий «НОВАЯ ЭРА» представляют экспертный доклад «Технологии России: человек будущего». Исследование объединило мнения более 15 экспертов в сфере ИИ, включая представителей IT-рынка, экспертов в цифровизации, ведущих сотрудников научных и технологических центров России, и стало одним из ключевых аналитических материалов ЦИПР. 

Центральной темой доклада стало осмысление границ допустимого в применении ИИ — этических, юридических и философских аспектов. Как показал анализ, ИИ — не только технология, но и зеркало общества, его ценностей и страхов.

Ключевые выводы экспертов:

• ИИ оказывает двойственное влияние на мышление: снижает критическое, но усиливает цифровые навыки; 
• этика не должна тормозить ИИ, но обязана задавать ему границы; 
• переход к супер-ИИ — это не просто технологическая трансформация, а онтологический сдвиг, затрагивающий саму природу разума и бытия; 
• необходимо комплексное правовое и этическое регулирование; 
• основной риск — потеря контроля, особенно в сфере кибербезопасности; 
• одной из ключевых опасностей является вопрос этики: если супер-ИИ обладает искусственным разумом, возникает необходимость определить его права и ответственность для предотвращения потенциальной глобальной катастрофы; 
• образование, прозрачность и человеческий контроль — три столпа безопасной ИИ-интеграции. 

На фоне ускоренного внедрения ИИ в ключевые сферы жизни экспертный доклад приобретает еще большую актуальность. В нем поставлен главный вопрос: как внедрять ИИ, не теряя контроль над обществом и ценностями?
«ИИ — это сила. Но сила требует рамок. Без доверия и прозрачности система не работает», — подчеркивает Алексей Паламарчук, генеральный директор NtechLab.

«Решения алгоритмов нельзя принимать без возможности их обжаловать. Мы вступили в эпоху цифровой этики», — заявляет Ольга Пивень, сооснователь и директор конференции ЦИПР.

«Нам нужны не просто законы — нам нужна новая этика цифровой эпохи», — уверен заместитель генерального директора Госкорпорации Ростех Александр Назаров.

Директор по особым поручения Госкорпорации Ростех Василий Бровко отметил, что сегодня мы стоим на пороге события, сравнимого по значимости с появлением письменности, электричества или интернета. «Речь идет о переходе от искусственного интеллекта к суперинтеллекту. Переход к супер-ИИ — это не просто технологическая трансформация, а онтологический сдвиг, затрагивающий саму природу разума и бытия. Супер-ИИ — это гипотетическая система, обладающая интеллектом, который значительно превышает человеческие способности во всех областях. В отличие от общего ИИ, супер-ИИ будет не просто выполнять те же задачи, а также генерировать новые подходы и решения, которые выходят за пределы возможностей человеческого разума. Такая система способна быстро адаптироваться, обучаться и совершенствовать алгоритмы, что позволяет ей решать задачи, которые кажутся слишком сложными для людей. По прогнозам, переход от “большого ИИ” к реальному супер-ИИ может произойти уже в пределах 5–7 лет», — говорит он. 

Эксперты сошлись во мнении, что алгоритмы не должны заменять человека в медицине, правосудии и образовании, где требуются эмпатия, контекст и чувство ответственности. При этом признана польза ИИ как интеллектуального помощника, особенно для поколений, выросших в цифровой среде.

«Искусственный интеллект — это инструмент, а не альтернатива человеку. Именно поэтому так важно, чтобы он развивался в рамках этических и социальных норм, а решения оставались за людьми», — говорит Алексей Паламарчук, генеральный директор NtechLab.

«Кто ответит, если ИИ совершит ошибку? Разработчик, владелец или сам алгоритм? Безопасная интеграция ИИ возможна только при жестком регулировании, прозрачности алгоритмов и международной кооперации», — отметил Александр Назаров, заместитель генерального директора Госкорпорации Ростех. «Уверен, что ИИ не станет “властелином мира” — он останется инструментом, который можно использовать эффективно, без переоценки возможностей и недооценки рисков», — дополняет он.
Еще один важный аспект доклада — это контроль не просто за ИИ, а за супер-ИИ. Необходим некий управленческий механизм во избежание неразрешимых последствий. Об этом заявляет Василий Бровко: «Если ИИ начнет действовать вопреки интересам людей, как мы сможем его остановить? Отсутствие надежного механизма управления может привести к непредсказуемым последствиям и стать серьезной угрозой для глобальной безопасности». 

Экспертный доклад акцентирует внимание на практическом применении ИИ в России, а также поднимает фундаментальные вопросы: как технологии влияют на личность, мышление и общественные нормы.

«ИИ уже перестал быть абстракцией. Он работает в 70 регионах России — в ЖКХ, безопасности, здравоохранении. Например, система на базе ИИ отслеживает мусор и формирует задачи для подрядчиков — это уже не будущее, а повседневность», — отметил Алексей Паламарчук.
Но вместе с эффективностью растет и уровень ответственности. Алгоритмы все чаще используются в решениях, затрагивающих права человека, и это требует прозрачности и доверия.

«Мы не просто пользуемся ИИ — мы с ним сосуществуем. Это как сосед по комнате. И именно поэтому так важно понимать, где проходят границы его применения», — подчеркивает Ольга Пивень, сооснователь и директор конференции ЦИПР. «Человек задает направление, а алгоритм помогает пройти путь от постановки проблемы до ее решения. Эмпатия, ответственность и выбор — все еще за нами», — напоминает она.

Особое внимание вызвала позиция Олега Сальманова, редактора Telegram-канала «Нецифровая экономика», который отметил важность прозрачности процедур. «Внедрение ИИ должно быть поэтапным и открытым. Мы не должны ждать, когда технологии навяжут обществу свои правила — общество должно задать эти правила заранее», — заявил он.