Национальная сессия от России на ИИ-диалоге ООН: ИСП РАН о доверии к искусственному интеллекту
На полях Глобального диалога по управлению искусственным интеллектом под эгидой ООН состоялась панельная сессия «Доверие и управление в эпоху генеративного ИИ: интеллектуальная собственность, качество, надежность и подотчетность». В ней принял участие заместитель президента РАН, директор Института системного программирования им. В.П. Иванникова РАН академик Арутюн Аветисян
Организаторами панельной сессии выступили Институт общественных наук Президентской академии и Институт системного программирования им. В.П. Иванникова РАН совместно с S.M for Intellectual Property и iPioneer (Египет) и при поддержке МИД России и Минэкономразвития России. Сессия стала единственным национальным мероприятием России в рамках Глобального диалога ООН.
Панельная дискуссия объединила экспертов из России, Египта и стран Глобального Юга. Её основной целью стало обсуждение практических механизмов формирования доверия к генеративному искусственному интеллекту. Особое внимание участники уделили поиску совместимых международных подходов к развитию и регулированию технологий ИИ, которые позволят странам сотрудничать без навязывания единой модели управления. Модератором сессии выступил директор Института общественных наук Президентской академии Павел Голосов.
В своём выступлении директор ИСП РАН академик РАН Арутюн Аветисян отметил, что сегодня развитие искусственного интеллекта определяется не только качеством моделей, но и способностью формировать доверие к ним на протяжении всего жизненного цикла. По словам академика, технологии доверенного искусственного интеллекта уже слишком масштабны и сложны, чтобы разрабатываться усилиями одной компании или страны. Базовые инженерные решения должны развиваться в рамках международного сотрудничества через открытые репозитории и быть одинаково доступны всем участникам, при сохранении суверенного права каждого государства самостоятельно определять порядок их применения.
По итогам дискуссии участники подчеркнули, что доверие к искусственному интеллекту должно опираться как на научно обоснованные методы оценки качества и надежности технологий, так и на прозрачные механизмы регулирования интеллектуальной собственности, происхождения данных и подотчётности ИИ-систем. Президентская академия, ИСП РАН, S.M for Intellectual Property и iPioneer договорились продолжить совместную работу по этим направлениям, пригласив к сотрудничеству всех участников Глобального диалога.
С предварительным докладом Независимой международной научной группы по искусственному интеллекту можно ознакомиться на сайте ООН.