Законопроект о государственном регулировании искусственного интеллекта (ИИ)
На федеральном портале проектов нормативных правовых актов опубликовали проект закона "Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации", разработанный Минцифры России.
https://regulation.gov.ru/projects/?type=Grid#search=166424
Каковы цели закона об ИИ?
Проект федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации и о внесении изменений в отдельные законодательные акты Российской Федерации» (далее – законопроект, проект Федерального закона) разработан в целях создания правовых условий для ускоренного развития и внедрения технологий искусственного интеллекта, обеспечение безопасности личности, общества и государства, государственного технологического суверенитета при использовании технологий искусственного интеллекта в Российской Федерации.
Законопроектом устанавливаются основные понятия, общие принципы и особенности регулирования отношений в сфере применения технологий искусственного интеллекта, требования к суверенным и национальным моделям искусственного интеллекта, особенности распоряжения правами на объекты интеллектуальной собственности, созданные с использованием искусственного интеллекта, а также порядок мониторинга, анализа и оперативного реагирования на риски и угрозы в сфере применения технологий искусственного интеллекта.
Проект федерального закона определяет полномочия Президента Российской Федерации, Правительства Российской Федерации, федеральных органов исполнительной власти, субъектов Российской Федерации в сфере искусственного интеллекта.
Законопроект устанавливает обязанности разработчика модели искусственного интеллекта, оператора системы искусственного интеллекта, владельца сервиса искусственного интеллекта, пользователя сервиса искусственного интеллекта.
Владелец сервиса искусственного интеллекта наделяется обязанностью по обеспечению размещения информационного предупреждения пользователя о применении технологий искусственного интеллекта для создания аудио и (или) визуального информационного материала или иного контента.
Требования к содержанию и порядку размещения информационного предупреждения, а также порядок осуществления контроля за соблюдением указанных требований федеральным органом исполнительной власти, уполномоченным на осуществление контроля в сфере искусственного интеллекта, будут устанавливаться Правительством Российской Федерации.
Законопроект определяет особенности создания и эксплуатация вычислительной инфраструктуры для искусственного интеллекта.
Законопроект содержит положения, регулирующие вопросы международного сотрудничества в сфере применения технологий искусственного интеллекта.
Закон предлагают ввести в действие с 1 сентября 2027.
Проект федерального закона предусматривает внесение изменения в Закон Российской Федерации от 7 февраля 1992 года № 2300-1 «О защите прав потребителей».
На какие отношения распространяется действие закона об ИИ?
Действие законопроекта не распространяется на отношения, возникающие в связи с применением технологий искусственного интеллекта для целей обороны и безопасности государства и охраны правопорядка, включая антитеррористическую защищенность, для целей предотвращения чрезвычайных ситуаций природного и техногенного характера, если иное не предусмотрено федеральными законами, регулирующими указанные отношения или актами Президента Российской Федерации.
При разработке законопроекта учтены цели и основные задачи развития искусственного интеллекта, предусмотренные Национальной стратегией развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 г. № 490.
Какие положения законопроекта представляются сомнительными?
В пояснительной записке говорится, что реализация положений законопроекта не окажет влияния на доходы и расходы бюджетов бюджетной системы Российской Федерации, в том числе не потребует дополнительных расходов, покрываемых за счет средств федерального бюджета.
Представляется, что реализация положений закона потребует контроля со стороны государственных органов, а это всегда связано с расходами. Кроме того, в нем предусмотрен ряд действий правительства в области создания ИИ.
Второй момент – это утверждение о том, что реализация положений, предусмотренных законопроектом, не повлечет негативных социально-экономических, финансовых и иных последствий, в том числе для субъектов предпринимательской и иной экономической деятельности.
Такое утверждение весьма спорно, поскольку последствия применения ИИ пока не выяснены до конца.
Какие новые понятия вводятся в законодательство?
Устанавливается, что искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.
Система искусственного интеллекта - информационная система или совокупность информационных систем и технических средств, использующая одну или несколько технологий искусственного интеллекта; Сервис искусственного интеллекта - решение с использованием технологий искусственного интеллекта для электронных вычислительных машин (ее составная часть), которое предоставляет пользователям через пользовательский интерфейс доступ к возможностям технологий искусственного интеллекта для выполнения прикладных задач.
Технологии искусственного интеллекта - технологии, основанные на использовании искусственного интеллекта включающие в себя компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта.
Наборы данных - состав данных (с машиночитаемым описанием), которые структурированы или сгруппированы по определенным признакам и необходимы для разработки и развития моделей искусственного интеллекта.
Модель искусственного интеллекта – разновидность программы для электронных вычислительных машин (ее составной части) или совокупность программ для электронных вычислительных машин, предназначенные для выполнения интеллектуальных задач на уровне, сопоставимом с результатами интеллектуальной деятельности человека или превосходящем их, использующая алгоритмы и обучающаяся или ранее обученная на наборах данных для выведения закономерностей, предоставления информации, принятия решений или прогнозирования результатов по заданным человеком целям.
Обучение модели искусственного интеллекта - процесс настройки числовых значений (алгоритмов) модели искусственного интеллекта регулирующих влияние каждого запроса к такой модели и ее ответа на запрос, с использованием наборов данных с целью формирования или совершенствования способности модели искусственного интеллекта достигать заданных человеком целей; Разработчик модели искусственного интеллекта - физическое или юридическое лицо, или индивидуальный предприниматель, осуществляющие исследования, проектирование, разработку, обучение, тестирование или модификацию, модели искусственного интеллекта; Оператор системы искусственного интеллекта - гражданин или юридическое лицо, осуществляющие деятельность по эксплуатации системы искусственного интеллекта, в том числе по обработке информации, содержащейся в ее базах данных; Владелец сервиса искусственного интеллекта - лицо, обладающее соответствующими правами на сервис искусственного интеллекта, включая исключительные или иные права на такую систему, если иное не установлено договором или законом; Пользователь сервиса искусственного интеллекта - лицо, использующее сервис искусственного интеллекта в соответствии с настоящим Федеральным законом; Большие фундаментальные модели - модели искусственного интеллекта, являющиеся основой для создания и доработки различных видов программного обеспечения, обученные распознаванию определенных видов закономерностей, применяемые для выполнения большого количества различных задач и содержащие параметры, минимальное количество которых, устанавливается уполномоченным органом в сфере искусственного интеллекта; Доверенные модели искусственного интеллекта - модели искусственного интеллекта, соответствующие требованиям, установленным настоящим федеральным законом и включенные в реестр доверенных моделей искусственного интеллекта. Эксплуатация уязвимостей человека - использование особенностей физического лица или группы лиц (включая возрастные, психологические, когнитивные, социально-экономические, физические особенности, а также временные состояния) для целенаправленного воздействия на поведение, принятие решений или получение несанкционированного доступа к информации, причиняющего или способного причинить вред.
Правовое регулирование отношений в сфере искусственного интеллекта основывается на следующих принципах:
- верховенство прав, свобод и законных интересов человека и гражданина - обеспечение неукоснительного соблюдения прав и свобод личности, включая право на неприкосновенность частной жизни, защиту персональных данных, собственности, а также запрет дискриминации;
- уважение автономии и свободы воли человека - нормативное правовое регулирование в области искусственного интеллекта не должно умалять право выбора и интеллектуальные способности человека, являющиеся самостоятельной ценностью и системообразующим фактором общества;
- риск-ориентированный подход к регулированию применения искусственного интеллекта - установление требований к применению искусственного интеллекта с учетом вероятности рисков причинения вреда (ущерба) и масштабам причиняемого ущерба жизни и здоровью физических лиц, деловой репутации и имуществу физических и юридических лиц, безопасности и технологической независимости государства, окружающей среде и иным охраняемым законом ценностям в связи с применением искусственного интеллекта;
- обеспечение благоприятных условий для развития технологий искусственного интеллекта - создание условий для ускоренного развития искусственного интеллекта в Российской Федерации;
- технологическая независимость - обеспечение самостоятельности Российской Федерации в области развития технологий искусственного интеллекта, в том числе путем разработки суверенных и национальных моделей искусственного интеллекта;
- учет и уважение традиционных российских духовно-нравственных ценностей - обеспечение разработки, внедрения и применения технологий искусственного интеллекта на основе таких ценностей как жизнь, достоинство, права и свободы человека, патриотизм, гражданственность, служение Отечеству и ответственность за его судьбу, высокие нравственные идеалы, крепкая семья, созидательный труд, приоритет духовного над материальным, гуманизм, милосердие, справедливость, коллективизм, взаимопомощь и взаимоуважение, историческая память и преемственность поколений, единство народов России;
- безопасность - предотвращение угроз конституционному строю, обороне и безопасности государства, технологическойй независимости государства, жизни и здоровью физических лиц, деловой репутации и имуществу физических и юридических лиц, индивидуальных предпринимателей, окружающей среде, а также обеспечение информационной безопасности и устойчивости функционирования объектов информатизации с применением технологий искусственного интеллекта. Для целей настоящего Федерального закона под суверенной и национальной моделями искусственного интеллекта понимаются модели искусственного интеллекта, соответствующие следующим требованиям:
а) все стадии разработки и обучения моделей искусственного интеллекта осуществляются на территории Российской Федерации; б) все стадии разработки, обучения и эксплуатации моделей искусственного интеллекта осуществляются гражданами Российской Федерации и российскими юридическими лицами; в) обучение моделей искусственного интеллекта с использованием наборов данных, формирование которых осуществляется на территории Российской Федерации гражданами Российской Федерации и российскими юридическими лицами.Как действует закон в сфере защиты прав потребителей?
Лицо, осуществляющее продажу товаров или оказание услуг с использованием технологий искусственного интеллекта без участия человека в принятии решений о продаже товара или оказании услуги обязано информировать покупателей и потребителей услуг о применении технологий искусственного интеллекта.
Лицо, использующее технологии искусственного интеллекта с целью принятия автономных (без участия человека) решений, затрагивающих права, обязанности, свободы и законные интересы гражданина, обязано уведомить об этом гражданина, в отношении которого принимается указанное автономное решение.
В случаях, устанавливаемых Правительством Российской Федерации, лица и организации, осуществляющие оказание услуг, обязаны обеспечить гражданину, отказавшемуся от использования технологий искусственного интеллекта в его отношении, возможность получения услуг в форме и порядке, не предусматривающем автономное использование технологий искусственного интеллекта. Согласно ст. 9 законопроекта гражданину должна быть обеспечена возможность досудебного обжалования решений, а также действий (бездействия) органов государственной власти, региональных органов власти субъектов Российской Федерации и организаций с государственным участием или их должностных лиц, принятых или совершенных с использованием технологий искусственного интеллекта.
Гражданин имеет право на компенсацию вреда, причиненного неправомерным использованием технологий искусственного интеллекта, в порядке, установленном гражданским законодательством Российской Федерации.
Разработчик модели искусственного интеллекта, оператор системы искусственного интеллекта, владелец сервиса искусственного интеллекта несут ответственность в соответствии с законодательством Российской Федерации за результат, полученный с использованием искусственного интеллекта, нарушающий законодательство Российской Федерации, при условии, что указанные лица заведомо знали или должны были знать о возможности получения такого результата с использованием модели, системы или сервиса искусственного интеллекта, разработчиком, оператором или владельцем которых они являются, если в результате следственных действий не будет доказано обратное.
Какую ответственность вводит закон при нарушении законодательства об ИИ?
Согласно ст. 11 законопроекта субъекты отношений в сфере искусственного интеллекта несут ответственность в соответствии с законодательством Российской Федерации за результат, полученный с использованием искусственного интеллекта, нарушающий законодательство Российской Федерации, соразмерно степени вины каждого.
Разработчик модели искусственного интеллекта, оператор системы искусственного интеллекта, владелец сервиса искусственного интеллекта несут ответственность в соответствии с законодательством Российской Федерации за результат, полученный с использованием искусственного интеллекта, нарушающий законодательство Российской Федерации, при условии, что указанные лица заведомо знали или должны были знать о возможности получения такого результата с использованием модели, системы или сервиса искусственного интеллекта, разработчиком, оператором или владельцем которых они являются, если в результате следственных действий не будет доказано обратное.
Разработчик модели искусственного интеллекта, оператор системы искусственного интеллекта и владелец сервиса искусственного интеллекта освобождаются от ответственности, предусмотренной частью 2 настоящей статьи, в случае, если предприняли исчерпывающие меры к предотвращению получения такого результата и соблюдали требования законодательства Российской Федерации при разработке модели, эксплуатации системы и предоставлении доступа к сервису искусственного интеллекта.
Пользователь сервиса искусственного интеллекта несет ответственность в соответствии с законодательством Российской Федерации за использование результата, полученного с помощью искусственного интеллекта, нарушающего законодательство Российской Федерации, когда такой результат является следствием его умышленных действий либо несоблюдения им условий использования сервиса искусственного интеллекта.
Пользователь и/или оператор освобождается от ответственности в случаях, когда вред причинен вследствие:
а) непреодолимой силы;
б) умысла потерпевшего;
в) недостатков объекта с использованием искусственного интеллекта, которые не могли быть выявлены им при проявлении всей разумной осмотрительности, предусмотренной условиями эксплуатации и технической документацией;
г) противоправных действий третьих лиц, которые пользователь и/или оператор не мог предвидеть и предотвратить, предприняв все зависящие от него меры, соответствующие характеру объекта и условиям его эксплуатации.
Оператор системы искусственного интеллекта, возместивший вред, причиненный в результате эксплуатации объекта с использованием искусственного интеллекта, вправе предъявить регрессное требование к разработчику данного объекта, если докажет, что вред возник исключительно вследствие недостатков объекта, которые существовали на момент ее его передачи оператору и не могли быть выявлены при проявлении им всей разумной осмотрительности, предусмотренной условиями эксплуатации и технической документацией.
Лица, виновные в нарушении законодательства Российской Федерации в сфере применения технологий искусственного интеллекта, несут административную, уголовную ответственность в порядке, установленном законодательством Российской Федерации.
