پاکسازی اکوسیستم هوش مصنوعی در چین؛ برخورد جدی با تخلفات

آغاز عملیات پاکسازی اکوسیستم هوش مصنوعی در چین

به تازگی، اداره فضای سایبری چین گزارشی از نتایج مرحله اول کارزار ملی «پاکسازی و ساماندهی نابسامانی‌های کاربردهای هوش مصنوعی» منتشر کرده است. این گزارش نشان می‌دهد که چین دیگر صرفاً به وضع مقررات برای مدل‌های زبانی بزرگ یا محتوای تولیدشده توسط هوش مصنوعی اکتفا نمی‌کند، بلکه سازوکاری مستمر برای پایش، کشف، اصلاح و حذف تخلفات ایجاد کرده است.

جزئیات عملیات

در مرحله اول این عملیات، بیش از ۱۴ هزار محصول هوش مصنوعی شامل وب‌سایت‌ها، برنامه‌های کاربردی و عامل‌های هوشمند متخلف مورد برخورد قرار گرفته‌اند. همچنین، بیش از شش میلیون محتوای غیرقانونی یا ناقض مقررات از فضای مجازی حذف شده، بیش از ۲۶ هزار حساب کاربری مسدود شده، ۱۳۰۰ محصول مبتنی بر هوش مصنوعی از بازارهای آنلاین کنار گذاشته شده و ۹ مجموعه‌داده متن‌باز نیز به دلیل مغایرت با الزامات قانونی از دسترس خارج شده‌اند.

پنج محور اصلی نظارت

این عملیات بر پنج محور اصلی نظارت دارد:

• برخورد با شرکت‌هایی که الزامات ثبت و اخذ مجوز برای مدل‌های زبانی بزرگ را رعایت نکرده‌اند.
• ارتقای توانایی سکوها در ممیزی، پالایش و کنترل خروجی‌های هوش مصنوعی.
• مقابله با پدیده «مسموم‌سازی داده».
• اجرای کامل مقررات مربوط به برچسب‌گذاری محتوای مبتنی بر هوش مصنوعی.
• ایجاد سازوکار ملی دریافت گزارش‌های مردمی درباره تخلفات مرتبط با کاربردهای هوش مصنوعی.

حکمرانی چندسطحی

یکی از ویژگی‌های مهم این کارزار، معماری چندسطحی اجرای آن است. دولت مرکزی چارچوب‌های سیاستی و شاخص‌های نظارتی را تعیین می‌کند، اما اجرای عملیاتی تا سطح استان‌ها و حتی شرکت‌های فناوری توزیع شده است.

مسئولیت مستقیم شرکت‌های فناوری

در این چارچوب، شرکت‌های فناوری نیز تنها مخاطب مقررات نیستند، بلکه به بازیگران اصلی اجرای سیاست‌های حکمرانی تبدیل شده‌اند. شرکت‌هایی مانند هوآوی، علی‌بابا و Zhipu AI، سامانه‌های مختلفی را برای افزایش امنیت و نظارت بر محتوای هوش مصنوعی توسعه داده‌اند.

از کنترل محتوا به مدیریت ریسک‌های اجتماعی هوش مصنوعی

اداره فضای سایبری چین همزمان اعلام کرده است که مرحله دوم این کارزار با تمرکز بر تهدیدهای پیچیده‌تر آغاز خواهد شد. تولید و انتشار اطلاعات جعلی، جعل هویت افراد، آسیب به حقوق کودکان، انتشار محتوای خشونت‌آمیز و غیراخلاقی و استفاده از هوش مصنوعی برای سازمان‌دهی شبکه‌های عملیات هماهنگ در فضای مجازی، مهم‌ترین اولویت‌های مرحله بعد خواهند بود.

در نهایت، مجموعه این اقدامات نشان می‌دهد چین در حال تثبیت الگویی از حکمرانی هوش مصنوعی است که سه ویژگی اصلی دارد: نظارت مستمر به جای مداخله مقطعی، مسئولیت‌پذیری مشترک دولت و شرکت‌های فناوری، و مدیریت امنیت در سراسر چرخه حیات سامانه‌های هوش مصنوعی.