У Китаї заборонять медіафайли, згенеровані штучним інтелектом, якщо вони не мають водяних знаків

Правила забороняють поширення медіафайлів, створених за допомогою штучного інтелекту, без чіткого маркування, наприклад, водяних знаків, повідомляє The Register.

Нові правила є частиною еволюціонуючої реакції Китаю на тенденцію генеративного штучного інтелекту (ШІ), яка охопила світ технологій у 2022 році, і вони набудуть чинності 10 січня 2023 року, пише Ars Technica.

У новинному повідомленні на сайті китайського офісу Центральної комісії з питань кіберпростору уряд виклав свої причини для видання постанови. Він вказав на нещодавню хвилю розвитку ШІ для синтезу тексту, зображень, голосу і відео, які Китай визнає важливими для майбутнього економічного зростання.

У Китаї регулюванням, наглядом та цензурою Інтернету займається Адміністрація кіберпростору. Згідно з новими правилами, адміністрація буде більш уважно стежити за тим, що вона називає технологією "глибокого синтезу".

Останніми роками технологія глибокого синтезу стрімко розвивається. Слугуючи потребам користувачів та покращенню якості їх обслуговування, вона також використовується деякими недобросовісними особами для виготовлення, копіювання, опублікування та розповсюдження незаконної та шкідливої інформації, наклепу та приниження репутації та честі інших осіб, підробки чужих документів. Вчинення шахрайства тощо впливає на порядок спілкування та суспільний лад, завдає шкоди законним правам та інтересам громадян, створює загрозу національній безпеці та суспільній стабільності.

Запровадження "Регулювання" є необхідністю запобігання та усунення ризиків безпеки, а також сприяння здоровому розвитку глибокого синтезу та підвищення рівня наглядових можливостей.

Нові продукти глибокого синтезу підлягатимуть державній оцінці безпеки. Кожен продукт повинен бути визнаний таким, що відповідає правилам, перш ніж він може бути випущений на ринок.

Також Адміністрація особливо підкреслює вимогу щодо чітких "знаків" (таких як водяні знаки), що позначають вміст, згенерований штучним інтелектом:

"Постачальники послуг глибокого синтезу повинні додавати знаки, які не впливають на використання інформаційного контенту, створеного або відредагованого за допомогою їхніх послуг. Послуги, що забезпечують такі функції, як інтелектуальний діалог, синтезований людський голос, генерування людського обличчя та реалістичні сцени з ефектом занурення, які генерують або суттєво змінюють інформаційний контент, повинні бути позначені на видному місці, щоб уникнути публічної плутанини або неправильної ідентифікації. Вимагається, щоб жодна організація або фізична особа не використовувала технічні засоби для видалення, підробки або приховування відповідних маркувань".

Крім того, компанії, які надають технологію глибокого синтезу, повинні вести свої записи відповідно до законодавства, а люди, які використовують цю технологію, повинні реєструвати облікові записи зі своїми справжніми іменами, щоб можна було відстежити їхню генеруючу діяльність.

Як і в США, в Китаї спостерігається бум застосунків на основі штучного інтелекту. Наприклад, одна з провідних китайських технологічних компаній Baidu розробила модель синтезу зображень, подібну до DALL-E і Stable Diffusion.

Останнім часом Китай і Сполучені Штати стикаються зі зростаючою хвилею генеративного ШІ, який може кинути виклик силовим структурам, уможливити шахрайство або навіть втрутитись в наше відчуття історії. Поки що обидві країни відреагували майже полярно протилежно – США з необов'язковими рекомендаціями проти жорстких обмежень Китаю.

У 2019 році Китай опублікував свої перші правила, які зробили незаконною публікацію немаркованих "фейкових новин". Ці правила набули чинності на початку 2020 року.

Нагадаємо, 2017 року в Китаї заборонили анонімні пости в соцмережах і ввели обов'язкову процедуру прив'язки реальних паспортних даних користувачів до їх акаунтів.