Эксперт Евгений Ицаков рассуждает о том, что в России могут ввести маркировку ИИ-контента:

Введение обязательной маркировки контента, созданного с помощью искусственного интеллекта, — важный шаг в регулировании цифрового пространства. Это поможет пользователям отличать достоверную информацию от синтетической, а также снизит риски, связанные с распространением дипфейков и мошенничеством.

Однако опыт других стран показывает, что подобные инициативы работают лишь при наличии механизма, обеспечивающего их четкое исполнение. Например, в Китае с 2023 года действуют жесткие правила маркировки ИИ-контента, что снизило объемы дезинформации, но потребовало значительных ресурсов на контроль. В ЕС закон об ИИ (AI Act) также предусматривает маркировку, однако его реализация еще только начинается, и эффективность пока оценить сложно. В США подобные меры носят рекомендательный характер, что ограничивает их эффективность.

В России успешность инициативы будет зависеть от трех факторов. Во-первых, от технической реализуемости — смогут ли системы автоматически детектировать ИИ-контент. Во-вторых, от степени контроля — не приведет ли регулирование к избыточному давлению на платформы. И в-третьих, от баланса между безопасностью и развитием технологий — важно не создать барьеры для легитимного использования ИИ в креативных и коммерческих проектах.

Пока ключевая задача — разработка единого понятийного аппарата и определение ответственных за маркировку. Будем следить за развитием инициативы и надеяться на открытый диалог между государством, бизнесом и обществом.

Эксперт Евгений Ицаков рассуждает о том, что правительство создаст Центр развития искусственного интеллекта:

Создание Центра развития искусственного интеллекта в России отражает общемировой тренд на ускоренное внедрение технологий ИИ в государственное управление и экономику. В нашей стране наблюдается активное развитие ИИ в ключевых сферах — от правоохранительной системы и прогнозирования преступности до коммерческих решений, таких как улучшение языковых моделей. Однако важно учитывать, что в России преобладает патерналистская модель развития новых технологий, при которой государство играет центральную роль в координации и внедрении инноваций.

Такой подход, с одной стороны, позволяет систематизировать процессы и избежать фрагментации, но с другой — может привести к сужению области применения ИИ. Централизованное управление зачастую ограничивает эксперименты и разнообразие решений, поскольку приоритет отдается типовым, проверенным моделям. Между тем, история технологических прорывов показывает, что самые неожиданные и революционные инновации часто рождаются в условиях открытой конкурентной среды, где множество разработчиков и предпринимателей могут свободно тестировать идеи.

Для того, чтобы российский ИИ не только соответствовал мировым трендам, но и задавал их, важно создавать безопасную среду для экспериментов, поддерживать малые и средние технологические компании, снижать административные барьеры. Именно творческая энергия независимых разработчиков может привести к появлению решений, которые сегодня кажутся фантастикой. Государству стоит совмещать системный подход с поддержкой децентрализованных инициатив – только так можно добиться действительно широкого и эффективного внедрения ИИ во всех сферах жизни.

Эксперт Евгений Ицаков рассуждает о предложении банков операторам связи разделить ответственность за хищения средств телефонными мошенниками:

Инициатива банков, касающаяся разделения ответственности с операторами связи за хищения средств телефонными мошенниками, — логичный шаг в борьбе с растущим объемом финансового мошенничества. Если не ошибаюсь, по данным Центробанка, за год россияне потеряли из-за социальной инженерии более 14 млрд рублей, при этом 70-80% хищений происходят через телефонные схемы: подмену номеров, звонки от имени банков или госорганов. При этом Сбербанк отмечает, что после внедрения двухэтапного подтверждения переводов число успешных краж сократилось на 25%.

В нашей стране, где звонки от «сотрудников банков» и «силовиков» остаются одним из главных инструментов мошенников, операторы связи действительно могли бы активнее противодействовать подмене номеров и блокировать подозрительные активности. Но и банкам стоит продолжать совершенствовать свои системы мониторинга, чтобы предотвращать транзакции по сомнительным схемам. Ключевой вопрос — как распределить ответственность справедливо, не перекладывая всю нагрузку на один сектор.

Безусловно, операторы связи могли бы усилить контроль за идентификацией абонентов и активнее блокировать подозрительные звонки. Однако перекладывание финансовых компенсаций на телеком-компании чревато ростом издержек, которые могут отразиться на тарифах для абонентов.

Кроме того, банкам также необходимо совершенствовать свои системы: например, внедрять более строгие подтверждения операций или алгоритмы AI для выявления аномальных транзакций. Ключевой риск подобных инициатив — дисбаланс в распределении ущерба. Если регулятор закрепит нормы без четких критериев вины, возможны бесконечные судебные споры между банками и операторами, а клиенты останутся без гарантированной защиты.

Вместо этого нужен комплексный механизм, который будет включать в себя: единую базу «серых» номеров и обязательную аутентификация абонентов; госпрограммы по киберграмотности, особенно для уязвимых групп; и прозрачные правила возмещения ущерба с учетом степени вины каждого участника.

Эксперт Евгений Ицаков рассуждает о том, что в рунете произошел второй крупный сбой за 10 дней:

Очевидно, что сбои — результат внешнего вмешательства. И тут весьма сложно оценить, насколько существенным может быть это вмешательство: провайдеры не будут раскрывать масштаб поражения, если только он не становится реально заметным пользователям, как мы не узнаем о небольших сбоях, атаках и утечках, которые провайдерам удается быстро купировать.

Это снижает доверие (и инвестпривлекательность) как ко всей отрасли, так и к отдельным компаниями. Вероятно, подобные «сбои» будут повторяться чаще по мере продолжения глобального противостояния в информационном поле на фоне СВО. Все провайдеры плюс-минус одинаково уязвимы для таких угроз.

В то же время Россия достаточно самодостаточна с точки зрения разнообразия и качества веб-ресурсов. При самом неблагоприятном сценарии — тотальном отключении России от мирового интернета — наш российский сегмент позволит почти полностью заполнить высвободившееся внимание пользователей и удовлетворить почти все их потребности в веб-сервисах.

Вероятно, в случае тотального отключения часть российских ресурсов, работающих на иностранных серверах и ИТ-решениях, тоже могут оказаться недоступными какое-то время, но затем будут восстановлены.

На мой взгляд, сценарий тотального отключения России от интернета маловероятен, поскольку после первого шока, а затем восстановления Рунета иностранные агенты влияния полностью потеряют возможность влиять на сознание россиян. Думаю, противники нашей страны не лишат себя такого мощного инструмента проецирования своей мягкой силы на неокрепшие умы российской молодежи, поэтому неприятные сбои будут повторяться часто, а тотального отключения не хотят ни враги нашей страны, ни мы сами.

Эксперт Евгений Ицаков рассуждает о том, что сбор за использование зарубежного ПО не будет распространяться на малый и средний бизнес:

Сбор этот ввели для того, чтобы стимулировать компании переходить на российское программное обеспечение, но оно физически не всегда есть. К тому же программное обеспечение – это работа тысяч людей в течение десятков тысяч часов. В каждый серьезный программный продукт, которым мы пользуемся, вложены миллионы человеко-часов, и на хорошее замещение этого продукта надо потратить примерно столько же работы айтишников. А у нас их и так дефицит.

На мой взгляд, с отказом от иностранного софта стоило бы повременить во всех сферах, которые не являются критически важными. В таких сферах импортное программное обеспечение следует не запрещать, а даже поощрять. Лучше бы ввести мораторий на применение авторского права в отношении софта из недружественных стран, чтобы граждане и бизнес могли это ПО приобретать тайком, без официальной покупки.

Может быть, можно даже создать специальные серверы, которые будут подменять сигнал и давать ответ, как будто бы у ПО есть лицензия, когда ее на деле нет. Потому что нам нужно экономить эти миллионы человеко-часов айтишников, не тратить их на повтор того, что уже сделано, а направить на развитие нашего IT-сектора. Повторю, речь идет о сферах, где присутствие иностранного софта некритично для обороны страны, ее безопасности продовольственной, экономической в целом, военной. В критически важных сферах иностранного программного обеспечения быть не должно.

В общем, мне кажется, что в принципе вводить такого рода штрафы для компаний не из критически важных отраслей неуместно. А что будет, если разрешить малому бизнесу не платить штрафы за использование импортного ПО, но крупному не разрешать? Если платить надо будет меньше, чем за разработку своего ПО, крупный бизнес, скорее всего, останется на импортном софте. Если больше – возможно, предприятия начнут этот софт разрабатывать.

Либо, что проще, записывать импортный софт на какой-нибудь свою «дочку», которая проходит по категории малого или среднего бизнеса. А дальше эта компания будет передавать ПО «материнской» компании, и та будет им пользоваться, не платя за это. То есть с введением штрафа с ограничениями автоматически создается лазейка для обхода закона, поэтому мне кажется, что надо, чтобы или платили все (но сложно будет разобраться, что именно сделано с применением импортного ПО), или не платил никто. Или мы создадим еще один механизм для тренировки правовой несознательности.

Если выстроить эффективную систему контроля тут невозможно, то лучше запрет на использования такого программного обеспечения вовсе не вводить вне секторов, связанных с безопасностью страны.

Эксперт Евгений Ицаков рассуждает о том, что искусственный интеллект будет обучаться на биометрии москвичей:

Уже несколько лет существует идея формировать «озеро биометрических данных» россиян, чтобы затем принимать какие-то решения в сфере госуправления или предоставлять на возмездной основе доступ компаниям для разработки новых продуктов для населения. Правда, не очень понятно, какую пользу несет сбор именно биометрических данных.

Сбор информации о возрасте, поле, семейном статусе, географическом распределении и разного рода предпочтениях может действительно помочь с повышением качества государственных услуг за счет их более таргетированного распределения. А как применять сбор изображений лиц и записи голоса для совершенствования государственных услуг или коммерческих продуктов — не очень понятно. Если только речь не идет о создании системы автоматического слежения и идентификации горожан.

Возможно, перед нами маячит уже ставший таким привычным в Китае социальный рейтинг, который будет корректироваться в том числе автоматически за счет распознавания алгоритмами машинного обучения и компьютерного зрения социально-вредных или полезных деяний горожан.

В текущем описании данная новость создает, скорее, ощущение рисков базовым свободам на тайну личной жизни и свободу перемещения, чем формирует позитивное чувство от возможного появления каких-то новых и полезных сервисов для населения. Также интересно было бы подробнее узнать, каким образом будет происходить сбор изображений лиц и записи голосов.

Судя по новости, эта информация собирается с камер наружного видеонаблюдения. Делаться это будет без разрешения объектов сбора информации. Но что, если в объектив камеры попадет сотрудник спецслужбы при исполнении или несовершеннолетний ребенок? Как быть с тем, что часть горожан уже написали отказ от сбора биометрических данных в соответствии с Постановлением Правительства РФ от 27 марта 2023 г. N 478. Данные этих людей не могут быть собираемы и обрабатываемы, но как оператор, собирающий данные без разрешения людей, по сути, скрытым образом, сможет распознать на видео тех людей, которые в явном виде отказались от сбора и анализа их данных? Получается, их права будут нарушены.

Как будет определяться информация, которая не должна обрабатываться? На эти вопросы пока нет вразумительного ответа. Поэтому данная новость создает, скорее, ощущение наступления тотального контроля с неизвестными целями.

Эксперт Евгений Ицаков рассуждает о том, что ИИ впервые превзошел по точности традиционный прогноз погоды:

На самом деле, это неудивительно, что искусственный интеллект по точности превзошел прогноз погоды, подготовленный специалистами. Это вполне закономерно, поскольку искусственный интеллект является ансамблем математических алгоритмов, которые созданы самими метеорологами и обучены на множестве их предсказаний.

По сути, эти алгоритмы выполняют ту же самую работу — предсказания трендов развития погоды по историческим замерам и данным, получаемым в режиме реального времени с датчиков температуры и давления в различных регионах. Но только делают это быстрее. Более быстрые и частые прогнозы уже воспринимаются как более точные. При этом существенно сокращается влияние человеческого фактора: ошибки и нервозности.

ИИ приходит не на смену определенным профессиям, а в помощь для автоматизации рутинных операций. Просто специалистам, чтобы сохранить свое рабочее место, придется развивать творческое мышление. Помните выражение «Работу у вас отберут не роботы, а люди, которые первыми освоят роботов»?

Эксперт Евгений Ицаков рассуждает о том, что в правительстве одобрили компенсации жертвам утечек данных:

Данная мера выглядит избыточной. Получается, Минцифры создает дополнительный механизм взыскания денег с компаний, допустивших утечку, в пользу пострадавших. Как и во всем мире, у нас такие вопросы должны решаться судом.

Эксперты должны оценить ущерб, нанесенный пострадавшим, а затем компании могут быть предъявлены одиночные или коллективные иски. Тогда наказание допустившей утечку компании будет напрямую связано с масштабами утечки и чувствительностью скомпрометированных данных.

Сейчас Минцифры создает механизм, на основании которого суды будут отказывать пострадавшим в компенсации от нанесшей ущерб компании, поскольку те уже получили некую фиксированную компенсацию от Минцифры. Это отличный способ увеличить бюджет министерства, создать еще несколько десятков рабочих мест для друзей и родственников, которые будут заниматься сначала взысканием средств с нарушителей, а потом их перераспределением. Это отличный способ защитить компании, работающие с персональными данными, от избыточных судебных исков, адекватных нанесенному ущербу.

Но это шаг назад в плане построения современной и адекватной системы взаимоотношений в области защиты данных.

Эксперт Евгений Ицаков рассуждает о том, что мобильные сети проверяют на прочность в российских регионах:

На самом деле сейчас проводится целый ряд мероприятий по проверке устойчивости критических элементов телекоммуникационных сетей и устройств. Вчера была новость о том, что Министерство цифрового развития, связи и массовых коммуникаций России проводит закупку мобильных устройств связи для проверки их защищенности. Очевидно, это комплекс мер по оценке рисков для устойчивости систем связи в условиях усиления санкционного давления и запрета на поставки телекоммуникационного оборудования в нашу страну.

По итогам такого технологического аудита станут понятны возможности и ограничения IT-инфраструктуры. Есть целый ряд сценариев, где в некоторых случаях мощности всех телекоммуникационных компаний, независимо от форм собственности, могут быть объединены в одну систему для правительственных нужд. Может быть сценарий, при котором импорт оборудования в Россию станет полностью невозможным — нужно понимать, сколько и как страна сможет существовать в этих условиях.

Также по итогам аудита, скорее всего, будет создан реестр уязвимых узлов, которые нужно будет замещать на другие технологические решения в первую очередь.

Эксперт Евгений Ицаков рассуждает о том, что компании из России в ответ на призыв остановить обучение нейросетей выступили за создание правил:

Есть расхожее выражение: «Работу у вас заберут не роботы, а люди, которые освоят роботов первыми». Думаю, это выражение описывает мое отношение к проблеме контролируемого научного прогресса. Думаю, что научный прогресс неостановим. Кто может развивать свой продукт, тот будет развивать свой продукт, ведь это их продукт. А мнение сторонних людей, которые являются лишь частью пользователей продукта, вторично.

Именно поэтому исполнительный директор OpenAI письмо об ограничении возможности его собственного продукта не подписал. Это как если бы одна страна изобрела суперсверхоружие, а другие страны написали бы открытое письмо с просьбой отказаться от него. Даже если в публичном пространстве страна-владелец этого оружия не проводила это испытания, то подспудно дальнейшие разработки велись бы. И прочие страны тоже вели бы разработки в этом направлении, чтобы нагнать того, кто вырвался вперед.

ChatGPT, MidJourney и аналогичные системы будут развиваться независимо от нашего желания или желания подписантов открытых писем. Нам целесообразно тратить энергию не на борьбу с этим, а на максимально эффективное встраивание этих новых решений в наши бизнес-процессы.