از استانداردگذاری تا تنظیمگری؛ مسیر حکمرانی اپراتورهای هوش مصنوعی
مشارکت ذینفعان، بهویژه در چارچوب استانداردهای بینالمللی هوش مصنوعی، یکی از ارکان مهم در تدوین قوانین، سیاستگذاری، لوایح و تنظیمگری این فناوری به شمار میرود. مشارکت مؤثر بازیگران مختلف میتواند با ایجاد درکی مشترک و شکلدهی به چارچوبهای مورد توافق، زمینه تعیین معیارهای مشخص برای ایمنی، امنیت، شفافیت، توضیحپذیری، مدیریت ریسک، حریم خصوصی، کیفیت داده، مسئولیتپذیری و ارزیابی انطباق سامانههای هوش مصنوعی را فراهم کند.
قانونگذاری میتواند با تعیین اصول و چارچوبهای بنیادین، حدود الزامات و مسئولیتهای اپراتورها و سایر بازیگران را مشخص کند؛ با این حال، انتظار نمیرود قانون در تمامی لایهها، بهویژه جزئیات فنی و فناورانه، ورود کند. ماهیت متغیر و پرشتاب فناوری هوش مصنوعی ایجاب میکند برای پوشش این بخشها از استانداردهای تخصصی و بهروز بینالمللی، بهویژه استانداردهای ISO/IEC در حوزه هوش مصنوعی، استفاده شود. این استانداردها میتوانند الزامات قانون را به شاخصهایی قابل اندازهگیری، ارزیابی و ممیزی تبدیل کنند.
از سوی دیگر، استانداردهای بینالمللی میتوانند مبنایی برای صدور گواهی، ممیزی، ارزیابی ریسک، نظارت بر چرخه عمر سامانههای هوش مصنوعی و هماهنگسازی مقررات ملی با رویههای بینالمللی باشند. در این میان، مشارکت ذینفعان که در استانداردهای مرتبط نیز مورد تأکید قرار گرفته است، میتواند پلی میان قانونگذاری، سیاست عمومی، صنعت و فناوری ایجاد کند. حرکت به سمت چنین رویکردی، علاوه بر کاهش ابهام مقرراتی، میتواند به افزایش اعتماد عمومی، تسهیل توسعه فناوری، ایجاد نقش متناسب برای ذینفعان و گسترش استفاده مسئولانه از هوش مصنوعی کمک کند.
یکی از دغدغههای اصلی بخش خصوصی نیز مشارکت مؤثر در فرآیند تدوین قوانین و مقررات مربوط به فناوریهای نوظهور، بهویژه هوش مصنوعی، است. در این زمینه چالشهای مهمی وجود دارد که مهمترین آنها را میتوان در محورهای زیر بررسی کرد.
۱. مشارکت ناکافی ذینفعان در فرآیند تنظیمگری
زیستبوم خدمات هوش مصنوعی، مانند سایر زیستبومهای فناورانه، پیش از هر چیز نیازمند شناسایی و تبیین دقیق ذینفعان است. مشخص بودن نقشها، مسئولیتها و مرزهای میان بازیگران مختلف کمک میکند هر بخش بتواند وظایف خود را بهدرستی انجام دهد و از تداخل، تعارض و موازیکاری جلوگیری شود.
در مقابل، نبود مشارکت مؤثر ذینفعان مورد تأکید استانداردهای بینالمللی، از جمله کاربران نهایی، متخصصان فنی، بخش خصوصی، جامعه مدنی و نهادهای نظارتی، در فرآیند تدوین قوانین و لوایح میتواند پیامدهای نامطلوبی به همراه داشته باشد.
قوانینی که بدون دریافت بازخورد واقعی و مشارکت معنادار ذینفعان تدوین شوند، معمولا از واقعیتهای عملیاتی و نیازهای میدانی فاصله میگیرند. در نتیجه، احتمال شکلگیری مقاومت در بخش خصوصی، تفسیرهای متفاوت از الزامات و کاهش پذیرش عمومی افزایش پیدا میکند.
چنین وضعیتی نهتنها اثربخشی مقررات را کاهش میدهد، بلکه میتواند اعتماد به نظام تنظیمگری را تضعیف کرده و انگیزه انطباق داوطلبانه را کاهش دهد. در نهایت نیز خطر اجرای صوری مقررات، دور زدن الزامات یا گسترش فعالیتها خارج از چارچوب قانونی افزایش خواهد یافت؛ وضعیتی که هم اهداف ایمنی و حمایتی مقررات را تضعیف میکند و هم هزینههای اقتصادی و اجتماعی بیشتری به همراه خواهد داشت.
۲. چالش ناشی از سرعت بالای تحول فناوری هوش مصنوعی
سرعت بالای تحول فناوری هوش مصنوعی یکی دیگر از چالشهای جدی در مسیر قانونگذاری است. اگر قوانین و مقررات به جزئیات فنی و فناوریهای خاص وابسته شوند، با تغییر سریع فناوری ممکن است کارایی خود را از دست بدهند و نیازمند بازنگریهای مکرر باشند.
از این رو، برای دستیابی به ثبات بیشتر، قوانین باید بر اصول بنیادین، رویکرد ریسکمحور و پذیرش و مدیریت مخاطرات استوار باشند. در چنین چارچوبی، قانون میتواند اصول و الزامات کلی را مشخص کند و جزئیات فنی و اجرایی از طریق استانداردها و دستورالعملهای تخصصی و بهروز تکمیل شود.
هوش مصنوعی با سرعتی بیسابقه در حال تحول است و همین مسئله باعث میشود مقررات فنی ثابت در بازههای زمانی کوتاه کارایی خود را از دست بدهند. استفاده از استانداردهای بهروز و سازوکارهای تنظیمگری منعطف میتواند امکان هماهنگی میان تحولات فناورانه و الزامات قانونی را افزایش دهد.
در صورت نبود هماهنگی میان قانونگذاری، مقررات فنی و استانداردهای تخصصی، نظام حکمرانی ممکن است با دو وضعیت نامطلوب مواجه شود: از یک سو خلأهای نظارتی که زمینه سوءاستفاده و بروز آسیبهای اجتماعی را فراهم میکنند و از سوی دیگر مقررات سختگیرانه و غیرمنعطفی که میتوانند نوآوری و رقابتپذیری کشور را تحت تأثیر قرار دهند.
۳. غلبه نگاه صرفاً حکمرانی بر تنظیمگری
یکی دیگر از چالشهای موجود، احتمال غلبه رویکرد صرفاً حکمرانی و کنترلگرایانه بر فرآیند قانونگذاری است. قانونگذاری در حوزه هوش مصنوعی باید علاوه بر تعیین اصول بنیادین، مبتنی بر رویکرد ریسکمحور باشد و میان سطح ریسک، نوع فعالیت و شدت الزامات تناسب برقرار کند.
یک قانون پایدار میتواند نقش مهمی در شکلگیری و توسعه زیستبوم ملی هوش مصنوعی داشته باشد؛ اما فاصله گرفتن از مشارکت بخش خصوصی و سایر ذینفعان، دستیابی به این هدف را دشوار میکند.
قوانین بیش از حد کنترلگر معمولا به جای ایجاد چارچوبهای منعطف و مشوقهای لازم برای نوآوری مسئولانه، بر محدودیتها و الزامات بوروکراتیک تمرکز میکنند. نتیجه چنین رویکردی میتواند کاهش سرعت توسعه فناوری، تضعیف انگیزه سرمایهگذاری و کاهش رقابتپذیری باشد.
از سوی دیگر، بیتوجهی به استانداردهای بینالمللی و فنی در حوزههایی مانند مدیریت ریسک، شفافیت، توضیحپذیری و مسئولیتپذیری، ابهام حقوقی و عملیاتی ایجاد میکند. در چنین شرایطی، سازمانها و توسعهدهندگان ممکن است ندانند الزامات قانونی را دقیقاً چگونه باید در سامانههای خود پیادهسازی کنند و در عمل با بار نظارتی سنگین و تفسیرهای متفاوت مواجه شوند.
این وضعیت نهتنها اثربخشی حکمرانی را کاهش میدهد، بلکه میتواند به عقبماندگی رقابتی، افزایش ریسکهایی مانند سوگیری الگوریتمی، سوءاستفاده از فناوری و آسیبهای اجتماعی و همچنین از دست رفتن فرصت هدایت هوش مصنوعی به سمت کاربردهای ایمن و اخلاقی منجر شود.
در نتیجه، شدت الزامات مربوط به ارزیابی ریسک، مستندسازی، ممیزی و انطباق باید متناسب با سطح ریسک سامانه، نقش هر یک از ذینفعان و مقیاس فعالیت تعیین شود. به بیان دیگر، نمیتوان یک نسخه واحد را برای همه بازیگران تجویز کرد و لازم است متناسب با اندازه و ظرفیت سازمانها، از جمله شرکتهای کوچک و متوسط، الزامات متناسبی در نظر گرفته شود.
۴. ابهام در مسئولیتپذیری
یکی از مهمترین پرسشها در حوزه حکمرانی هوش مصنوعی این است که در صورت بروز خطا، تبعیض، آسیب یا تصمیم نادرست توسط یک سامانه هوش مصنوعی، مسئولیت بر عهده چه کسی خواهد بود؟
در صورت نبود تصریح قانونی، ممکن است مسئولیت میان توسعهدهنده، ارائهدهنده، بهرهبردار یا کاربر سامانه سرگردان شود. این موضوع بهویژه در شرایطی که زنجیره تولید، ارائه و استفاده از خدمات هوش مصنوعی پیچیده است، اهمیت بیشتری پیدا میکند.
در شرایط فعلی و با توجه به مباحث مطرحشده درباره لایحه اخیر حوزه اپراتور هوش مصنوعی، ابهام در مسئولیتپذیری و نبود مشارکت کافی بخش خصوصی در فرآیند تنظیمگری میتواند پیامدهای جدی و زنجیرهای ایجاد کند.
استفاده از استانداردهای مرتبط میتواند در این زمینه راهگشا باشد. این استانداردها امکان تعریف دقیقتر نقشها، فرآیندهای مدیریت ریسک، الزامات مستندسازی، قابلیت ممیزی و شواهد لازم برای اثبات انطباق را فراهم میکنند.
بیتوجهی به شناسایی و مشارکت ذینفعان برای تعیین نقشها و مسئولیتها میتواند موجب سردرگمی بازیگران شود و فرآیند پیگیری حقوقی و جبران خسارت را نیز با مشکل مواجه کند. البته تعیین مسئولیت حقوقی نهایی بر عهده قانون است، اما استانداردها میتوانند شواهد و سازوکارهای عملی لازم برای اجرای این مسئولیتها را فراهم کنند.
همچنین مدیریت ریسکهایی مانند سوگیری الگوریتمی، تصمیمهای غیرشفاف، نقض حریم خصوصی و آسیبهای امنیتی، بدون اتکا به چارچوبهای مشخص، ممکن است به شکل پراکنده و ناکارآمد انجام شود و احتمال بروز خسارات مالی، اعتباری و حتی جانی را افزایش دهد.
در چنین شرایطی، تفکیک دقیق میان حوزه قانون و حوزه استاندارد میتواند راهگشا باشد؛ قانون باید اصول، حقوق، مسئولیتها و الزامات الزامآور را تعیین کند و استانداردها نیز روشهای فنی و اجرایی تحقق این الزامات را مشخص سازند.
۵. اهمیت و نقش استانداردهای بینالمللی
یکی از نکات کلیدی در تنظیمگری هوش مصنوعی، توجه به نقش استانداردها در بخشهای فنی و قابل اندازهگیری است. استانداردهای بینالمللی میتوانند در تعریف الزامات فنی و ارزیابی ساختار و عملکرد اپراتورهای هوش مصنوعی نقش مهمی ایفا کنند.
در این زمینه، کمیته مشترک ISO/IEC JTC 1/SC 42 با رویکردی زیستبومی، استانداردهای مختلفی را برای حوزههایی مانند مفاهیم و واژگان هوش مصنوعی، چارچوبهای حکمرانی، کیفیت داده، مدیریت ریسک، توضیحپذیری، کنترلپذیری و مدیریت سوگیری توسعه داده است.
ISO/IEC 42001؛ چارچوب مدیریت هوش مصنوعی
استاندارد ISO/IEC 42001 بهعنوان استاندارد بینالمللی سیستم مدیریت هوش مصنوعی (AIMS)، چارچوبی برای حکمرانی، مدیریت ریسک، مسئولیتپذیری و استفاده مسئولانه از سامانههای هوش مصنوعی در سازمانها فراهم میکند.
این استاندارد به سازمانها کمک میکند فرآیندهای مرتبط با هوش مصنوعی را بهصورت ساختاریافته، قابل ممیزی و قابل بهبود مدیریت کنند و سطح اعتماد و انطباقپذیری سامانههای خود را افزایش دهند.
از این منظر، ISO/IEC 42001 میتواند بهعنوان یکی از پایههای عملیاتی اجرای قوانین مورد استفاده قرار گیرد تا توسعهدهندگان و اپراتورهای هوش مصنوعی بتوانند الزامات قانونی را به فرآیندها و رویههای مشخص تبدیل کنند. استقرار این چارچوب میتواند به سازمانها کمک کند ساختار عملیاتی خود را بهگونهای طراحی کنند که در کنار نوآوری، از ایمنی، شفافیت و پاسخگویی نیز برخوردار باشد.
ISO/IEC 23894؛ مدیریت ریسک هوش مصنوعی
استاندارد ISO/IEC 23894 نیز در حوزه مدیریت ریسک هوش مصنوعی اهمیت ویژهای دارد. این استاندارد راهنماییهایی برای شناسایی، تحلیل، ارزیابی و مدیریت ریسکهای مرتبط با سامانههای هوش مصنوعی ارائه میکند و سازمانها را در ایجاد فرآیندهای ریسکمحور در سراسر چرخه عمر سامانه، از طراحی و توسعه تا استقرار و بهرهبرداری، یاری میدهد.
ISO/IEC 23894 میتواند در کنار ISO/IEC 42001 مورد استفاده قرار گیرد؛ به این معنا که ISO/IEC 42001 چارچوب سیستم مدیریت هوش مصنوعی را فراهم میکند و ISO/IEC 23894 بر فرآیند مدیریت ریسکهای مرتبط با هوش مصنوعی تمرکز دارد.
ISO/IEC 22989؛ ایجاد زبان مشترک در حوزه هوش مصنوعی
استاندارد ISO/IEC 22989 نیز یکی دیگر از استانداردهای مهم این حوزه است که بر مفاهیم، اصول و تعاریف و واژگان کلیدی هوش مصنوعی تمرکز دارد و میتواند برای سازمانهای مختلف مورد استفاده قرار گیرد.
وجود چنین استانداردهایی اهمیت زیادی دارد؛ زیرا یکی از پیشنیازهای تنظیمگری مؤثر، ایجاد زبان مشترک میان قانونگذار، صنعت، متخصصان فنی، اپراتورها و سایر ذینفعان است. بدون تعاریف و مفاهیم مشترک، حتی اجرای یک قانون مناسب نیز ممکن است با برداشتهای متفاوت و چالشهای عملیاتی مواجه شود.
با توجه به نکات مطرحشده، انتظار میرود مسئولان ذیربط در تدوین مصوبات و لوایح مرتبط با هوش مصنوعی، نقش استانداردها در تنظیمگری و همچنین مشارکت واقعی ذینفعان در طراحی و ارزیابی سازوکارهای لازم برای عملیاتی شدن اپراتورهای هوش مصنوعی را مورد توجه قرار دهند.
قانونگذاری در این حوزه زمانی میتواند به شکلگیری یک زیستبوم پایدار و رقابتپذیر کمک کند که میان الزامات حقوقی، استانداردهای فنی، مدیریت ریسک و واقعیتهای عملیاتی کسبوکارها تعادل برقرار شود. در این میان، مشارکت بخش خصوصی و سایر ذینفعان نه یک مانع برای حکمرانی، بلکه یکی از پیششرطهای اثربخشی آن است.
هرچند چالشهای موجود در مسیر تنظیمگری هوش مصنوعی بسیار گسترده است، اما توجه به مرز میان قانون و استاندارد، حرکت به سمت رویکرد ریسکمحور و ایجاد سازوکارهای واقعی برای مشارکت ذینفعان میتواند از شکلگیری مقررات غیرمنعطف و ناکارآمد جلوگیری کند.
با توجه به اینکه حرکت به سمت تدوین چارچوبهای حکمرانی هوش مصنوعی آغاز شده است، میتوان این روند را بهعنوان فرصتی برای ایجاد یک ساختار منسجم و آیندهنگر در نظر گرفت؛ ساختاری که ضمن صیانت از منافع عمومی، زمینه را برای نوآوری، سرمایهگذاری و توسعه مسئولانه هوش مصنوعی در کشور فراهم کند.
