به نقل از «ایسکانیوز»

آیا قوانین سختگیرانه هوش مصنوعی اروپا روی تحقیقات تاثیر می‌گذارد؟

تاریخ انتشار: ۲۸ بهمن ۱۴۰۲ | کد خبر: ۳۹۷۷۱۹۱۲

به گزارش خبرنگار علم و فناوری ایسکانیوز به نقل از نیچر؛ کشورهای اتحادیه اروپا در حال تصویب اولین مجموعه قوانین جامع جهان برای تنظیم هوش مصنوعی هستند. این کشورها سختگیرانه‌ترین قوانین جهان را در مورد پرخطرترین مدل‌های هوش مصنوعی وضع می‌کنند که برای اطمینان از ایمن بودن سیستم‌های هوش مصنوعی و احترام به حقوق اساسی و ارزش‌های اتحادیه اروپا طراحی شده است.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

به گفته «ریشی بوماسانی»، محقق حوزه تاثیر اجتماعی هوش مصنوعی در دانشگاه استنفورد کالیفرنیا، این اقدام اروپا از نظر شکل‌دهی به نحوه تفکر ما در مورد مقررات هوش مصنوعی و ایجاد یک سابقه تاریخی در این زمینه اهمیت ویژه‌ای دارد.

کشورهای اروپایی با توجه به رشد سریع ابزارهای هوش مصنوعی تصمیم به وضع قوانین مربوط به این فناوری گرفتند. کارشناسان معتقدند که امسال نه تنها شاهد عرضه نسخه‌های جدیدی از مدل‌های هوش مصنوعی مولد مانند ChatGPT شرکت OpenAI خواهیم بود، بلکه خواهیم دید که سیستم‌های موجود در کلاهبرداری و انتشار اطلاعات نادرست مورد استفاده قرار می‌گیرند. منظور از هوش مصنوعی مولد یا هوش مصنوعی زایشی نوعی هوش مصنوعی است که در پاسخ به درخواست کاربر، قادر به تولید متن، تصاویر یا دیگر رسانه است. مدل‌های هوش مصنوعی مولد الگوها و ساختار داده‌های آموزشی ورودی خود را یاد می‌گیرند و سپس داده‌های جدیدی تولید می‌کنند.

البته کشورهای دیگر نیز در راستای رشد هوش مصنوعی و نگرانی‌های مربوط به آن شروع به وضع قوانینی برای محدود کردن این فناوری هستند. به طور مثال، کشور چین از مجموعه‌ای از قوانین برای هدایت استفاده تجاری از هوش مصنوعی استفاده می‌کند. همچنین جو بایدن، رئیس جمهور آمریکا، در اکتبر گذشته اولین دستور اجرایی هوش مصنوعی را امضا کرد که از سازمان‌های فدرال می‌خواهد برای مدیریت خطرات هوش مصنوعی اقدام کنند.

دولت‌های اروپایی قانون هوش مصنوعی را در دوم فوریه تصویب کردند و این قانون اکنون نیاز به امضای نهایی از سوی پارلمان اروپا به عنوان یکی از سه شاخه قانونگذاری اتحادیه اروپا دارد و انتظار می‌رود که این اتفاق تا ماه آوریل (2 ماه دیگر) رخ دهد. اگر متن این قوانین همانطور که ناظران سیاست انتظار دارند، بدون تغییر باقی بماند، این قانون در سال 2026 لازم‌الاجرا خواهد شد.

با این حال، تصویب این قوانین از سوی محققان با واکنش‌های متفاوتی همراه شده است؛ برخی از این اقدام به دلیل پتانسیلش در تشویق «علم باز» استقبال می‌کنند، ولی برخی نگرانند که این عمل نوآوری را خفه کند. منظور از علم باز، دانش در دسترس و شفافی است که از طریق شبکه‌های تعاملی به اشتراک گذاشته می‌شود و توسعه می‌یابد.

مجله «نیچر» بررسی کرده که چگونه این قوانین روی تحقیق تاثیر می‌گذارد.

رویکرد اتحادیه اروپا چیست؟

اتحادیه اروپا تصمیم گرفته است که مدل‌های هوش مصنوعی را براساس ریسک بالقوه‌شان تنظیم کند و قوانین سختگیرانه‌تری را برای برنامه‌های پرخطرتر اعمال کند و مقررات جداگانه‌ای را برای مدل‌های هوش مصنوعی عمومی مانند GPT که کاربردهای گسترده و غیرقابل ‌پیش‌بینی دارند، اتخاذ کند.

این قانون سیستم‌های هوش مصنوعی را که در رده «خطرناک غیرقابل قبول» قرار می‌گیرند، ممنوع می‌کند، برای مثال آنهایی که از داده‌های بیومتریک برای استنباط ویژگی‌های حساس مانند گرایش جنسی افراد استفاده می‌کنند. برنامه‌های پرخطر، مانند استفاده از هوش مصنوعی در استخدام و اجرای قانون، باید تعهدات خاصی را انجام دهند. برای مثال، توسعه‌دهندگان باید نشان دهند که مدل‌های آنها ایمن، شفاف و قابل توضیح برای کاربران است، به قوانین حفظ حریم خصوصی آنها پایبند است و تبعیض قائل نمی‌شود. این قوانین برای مدل‌هایی که در اتحادیه اروپا فعالیت می‌کنند اعمال می‌شود و هر شرکتی که قوانین را نقض کند باید هفت درصد از سود جهانی سالانه خود را به عنوان جریمه پرداخت کند.

«دیرک‌هاوی» (Dirk Hovy)، دانشمند کامپیوتر دانشگاه «بوکونی» در میلان ایتالیا می‌گوید: به نظر من، تلاش اتحادیه اروپا برای وضع و اعمال قوانین مربوط به هوش مصنوعی رویکرد بسیار خوبی است، زیرا این فناوری به سرعت قدرتمند و فراگیر شده و قرار دادن چارچوب برای هدایت استفاده و توسعه آن کاملا منطقی است.

«کیلیان ویت دیتلمان»، دانشمند علوم سیاسی در سازمان غیرانتفاعی «الگوریتم واچ» واقع در برلین که روی تاثیرات اتوماسیون روی جامعه مطالعه می‌کند، می‌گوید: برخی فکر می‌کنند که این قوانین به اندازه لازم کافی نیست و شکافی در اهداف نظامی و امنیت ملی و همچنین خلاءهایی در اجرای قانون و مهاجرت ایجاد می‌کند.

تاثیر روی محققان

از نظر تئوری، تاثیر قوانین هوش مصنوعی اتحادیه اروپا روی محققان بسیار کم است. سال گذشته، پارلمان اروپا بندی را به پیش‌نویس این قانون اضافه کرد که مدل‌های هوش مصنوعی را که صرفا برای تحقیق، توسعه یا نمونه‌سازی توسعه می‌یابند، مستثنی می‌شوند.

«جوآنا برایسون»، محقق حوزه هوش مصنوعی و مقررات آن در دانشگاه تحصیلات تکمیلی «هرتی» در برلین آلمان، می‌گوید: اتحادیه اروپا سخت کار کرده است تا مطمئن شود این عمل بر تحقیقات تاثیر منفی نمی‌گذارد. تمام تلاش آنها این است که نوآوری قطع نشود.

با این حال،‌ هاوی معتقد است که قوانین تاثیر خود را خواهد داشت، زیرا محققان را وادار به تفکر در مورد شفافیت، نحوه گزارش مدل‌ها و سوگیری‌های احتمالی خود می‌کند.

«روبرت کازمرکزیک»، پزشک دانشگاه فنی مونیخ در آلمان و یکی از بنیانگذاران LAION (شبکه باز هوش مصنوعی در مقیاس بزرگ و یک سازمان غیرانتفاعی با هدف دموکراتیزه کردن یادگیری ماشینی)، نگران است که این قانون می‌تواند مانع شرکت‌های کوچکی شود که پژوهش را هدایت می‌کنند و برای پایبندی به قوانین باید ساختارهای داخلی خود را تغییر دهند. در حالی که انطباق یک شرکت کوچک واقعا سخت است.

قوانین برای مدل‌های قدرتمندی مانند GPT چگونه است؟

سیاستگذاران اتحادیه اروپا پس از بحث‌های داغ تصمیم گرفتند که مدل‌های همه‌منظوره قدرتمند - مانند مدل‌های تولیدی که تصاویر، کد و ویدئو ایجاد می‌کنند - را در 2 لایه تنظیم کنند.

دسته اول تمام مدل‌های همه‌منظوره را پوشش می‌دهد، به جز مدل‌هایی که فقط در تحقیقات استفاده می‌شوند یا تحت مجوز منبع باز منتشر می‌شوند. این موارد مشمول الزامات شفافیت هستند، از جمله جزئیات روش‌های آموزشی و مصرف انرژی. و باید نشان دهند که به قوانین حق نسخه‌برداری احترام می‌گذارند.

بیشتر بخوانید: پیشتازی اروپا در تنظیم قوانین هوش مصنوعی

دسته دوم، بسیار سختگیرانه‌تر مدل‌های همه‌منظوره را پوشش می‌دهد که «قابلیت‌ تأثیرگذاری» و «ریسک سیستمی» بالاتری دارند. بوماسانی می‌گوید این مدل‌ها مشمول «تعهدات بسیار مهمی» از جمله تست‌های ایمنی سختگیرانه و بررسی‌های امنیت سایبری خواهند بود. توسعه دهندگان باید جزئیات معماری و منابع داده خود را منتشر کنند.

برای اتحادیه اروپا، «تاثیر بزرگ» یعنی خطرناک و مدل‌هایی را شامل می‌شود که از بیش از 1025 فلاپ (تعداد عملیات کامپیوتری) در آموزش استفاده می‌کند.

بوماسانی می‌گوید: آموزش مدلی با این قدرت محاسباتی بین 50 تا 100 میلیون دلار هزینه دارد. در نتیجه در دسته تاثیرگذار بزرگ رده‌بندی می‌شود.

برخی از دانشمندان مخالف قانونگذاری برای مدل‌های هوش مصنوعی هستند و ترجیح می‌دهند بر نحوه استفاده از آنها تمرکز کنند. مثلا «جنیا جیتسف» (Jenia Jitsev)، محقق هوش مصنوعی در مرکز ابرکامپیوتر «جولیچ» در آلمان، می‌گوید: هوشمندتر و توانمندتر به معنای آسیب بیشتر نیست. پایه‌گذاری مقررات براساس هر معیاری از قابلیت، مبنای علمی ندارد.

آیا هوش مصنوعی منبع‌باز تقویت خواهد شد؟

سیاستگذاران اتحادیه اروپا و طرفداران متن‌باز امیدوارند که هوش مصنوعی منبع‌باز تقویت شود.

هاوی می‌گوید: این قانون باعث می‌شود اطلاعات هوش مصنوعی در دسترس، قابل تکرار و شفاف باشد، که تقریباً شبیه مانیفست جنبش منبع‌باز است. بوماسانی هم معتقد است که برخی از مدل‌ها بازتر از بقیه هستند و هنوز مشخص نیست که چگونه تحت تاثیر قوانین قرار می‌گیرند.

بوماسانی معتقد است که احتمالا قصد قانونگذاران این است که مدل‌های همه‌منظوره مانند LLaMA-2 - یا «لاما» که مخفف شده عبارت مدل زبانی بزرگ متا ای‌آی و یک مدل زبانی بزرگ است که توسط متا ای‌آی در فوریه ۲۰۲۳ منتشر شد- و مدل‌های استارتاپی Mistral AI در پاریس را مستثنی کنند.

بومسانی می‌گوید: رویکرد اتحادیه اروپا برای تشویق هوش مصنوعی منبع‌باز به طور قابل توجهی با استراتژی آمریکا متفاوت است. خط استدلال اتحادیه اروپا این است که منبع‌باز برای رقابت اتحادیه اروپا با ایالات متحده و چین حیاتی خواهد بود.

چگونه این قانون قرار است اجرا شود؟

کمیسیون اروپا یک دفتر هوش مصنوعی برای نظارت بر مدل‌های همه‌منظوره ایجاد خواهد کرد که توسط کارشناسان مستقل توصیه می‌شود. این دفتر راه‌هایی را برای ارزیابی قابلیت‌های این مدل‌ها و نظارت بر ریسک‌های مرتبط ایجاد خواهد کرد. اما حتی اگر شرکت‌هایی مانند OpenAI از مقررات پیروی کنند و به عنوان مثال، مجموعه داده‌های عظیم خود را ارسال کنند، باز هم این سوال مطرح می‌شود که آیا یک نهاد عمومی منابع لازم را برای بررسی دقیق ارسال‌ها دارد یا خیر.

قانونگذاران می‌گویند که تقاضا برای شفافیت‌سازی بسیار مهم است، ولی به نظر می‌رسد که تصوری در مورد چگونگی اجرای این رویه‌ها ندارند.

انتهای پیام/

نسترن صائبی صفت کد خبر: 1220578 برچسب‌ها هوش مصنوعی اروپا

منبع: ایسکانیوز

کلیدواژه: هوش مصنوعی اروپا مدل های هوش مصنوعی اتحادیه اروپا هوش مصنوعی هوش مصنوعی هوش مصنوعی برای مدل هوش مصنوعی منبع باز

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.iscanews.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «ایسکانیوز» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۷۷۱۹۱۲ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

از درشکه تا اتومبیل؛ یک قرن فرهنگسازیِ ناتمام

جابه‌جایی همواره یکی از دغدغه‌های مهم از زمان انسان‌های نخستین که کمتر سبک زندگی یکجانشینی داشتند تا انسان امروزی که پویایی، جزء جدایی‌ناپذیر زندگی‌اش محسوب می‌شود، بوده است. نیازی که پاسخ به آن در ابتدا به مدد حیوانات و بعدتر به واسطه پیشرفت تکنولوژی میسر شد، هرچند این بخش هم با چالش‌های خاص خود از بروز هرج‌ومرج تا گاهی اوقات نبود فرهنگِ کافی روبرو بود. 

به گزارش ایسنا، سرعتِ محدود انسان برای جابه‌جایی باعث شد تا به حیوانات به چشم وسیله‌ای برای حمل‌ونقل نگاه کند که هرچند سرعت و توان بیشتری از خودش داشتند، اما بازهم تغییر چشمگیری در مدت زمان رسیدن به نقطه دلخواه ایجاد نمی‌کردند. در این شرایط بود که فکر ساخت وسایلی مانند ماشین‌دودی، طیاره، قطار و... به ذهنش رسید تا سختی‌ها را بر خود آسان کند. با این وجود وسیله‌ای که بیش از هر چیزی طی حدود ۱۳۰ سال گذشته توانسته پاسخگوی نیاز انسان به جابه‌جایی باشد، خودروها هستند که در این گزارش به آنها می‌پردازیم. 

تا پیش از تولد خودروها، استفاده از کالسکه‌ و درشکه برای رفت‌وآمد در میان مردم رواج داشت؛ چنانچه ناصرالدین شاه پس از بازگشت از سفر فرنگ در سال‌های آخر عمرش دستور تاسیس شرکت درشکه‌رانی برای گسترش حمل‌ونقل در دارالخلافه طهران را داد که به دنبال آن حدود ٣٠ درشکه وارد شهر شد. بر همین اساس لازم شد برای حفظ نظم، قوانینی برای تردد وضع شود. از جمله اینکه درشکه‌ها و کالسکه‌ها برای ورود به برخی نقاط شهر از جمله محوطه کاخ گلستان نیاز به مجوزی شبیه طرح ترافیک امروزی داشتند.

مسیر رفت‌وآمد کالسکه‌ها؛ عکس از آنتوان سوریوگین

نخستین اتومبیل در دوران سلطنت مظفرالدین شاه قاجار وارد ایران شد. از آنجایی که استفاده از آن در ابتدا تنها مخصوص درباریان و افراد ثروتمند بود؛ بنابراین به دلیل محدود بودن تعداد اتومبیل‌ها، نیازی به وضع قوانین مشخص برای استفاده از آن وجود نداشت. اما مانند هر وسیله دیگری، خودروها هم پیش از آنکه فرهنگ و قوانینی برای استفاده از آنها شکل گیرد، به مرور جای خود را در میان زندگی تمام اقشار جامعه باز کردند.

در واقع باید حدود یک قرن قبل را تصور کنید که فردی از پشت درشکه‌ای که هدایت آن با کشیدنِ افسار اسب یا قاطر امکان‌پذیر بوده، پایین می‌آید و صرفا با یادگیری برخی مفاهیم ابتدایی پشتِ فرمان وسیله‌ای می‌نشیند که دیگر هدایت آن تنها به زور و بازوی خود و اندک شعور حیوانش وابسته نیست و باید همزمان حواسش به گاز، ترمز، دنده، فرمان و... باشد! در این شرایط البته وضعیت برای پیادگان هم بهتر نبود، کسانی که هیچ اطلاعاتی از سرعت و شتاب اتومبیل نداشتند و بعید نبود مثلا بازیگوشی یک کودک هنگام رد شدن از خیابان باعث تصادفی جبران‌ناپذیر شود.

از طرفی افزایش تعداد اتومبیل‌ها در سطح شهرها در شرایطی رخ می‌داد که کوچه‌ها و خیابان‌های خاکی، زیرساخت لازم برای حضور این تعداد خودرو را نداشتند، خبری از خط‌کشی معابر، چراغ راهنمایی و رانندگی و... نبود و نظمیه‌چیان هم آموزشی برای نظارت بر قوانین مرتبط با این ساخته دست بشر ندیده بودند. در این بی‌قانونی هم احتمالا حق با کسی بود که زودتر می‌پیچید، صدای بلندتری برای داد زدن داشت، در محله خودشان رانندگی می‌کرد و بچه‌محل‌ها هوایش را داشتند و... .

با این وجود روند استفاده از اتومبیل کم و بیش به همان سبک اولیه تا زمانی که نخستین قربانی را بگیرد ادامه داشت. اما  ماجرا از چه قرار بود؟ درویش خان که یکی از افراد اثرگذار موسیقی ایرانی و عامل ایجاد تنوع در ساز تار بود، در یکی از شب‌های پاییزی سال ۱۳۰۵ خورشیدی که سوار بر درشکه درحال بازگشت به خانه بود با یک اتومبیل تصادف کرده و بعد از ۵ روز از دنیا رفت و اینگونه بود که خطرات وسیله‌ای که قرار بود کمکی به بشر باشد، بیش از قبل مشخص شد. 

احساس خطر در کنار هرج‌ومرج، بی‌قانونی و شکل نگرفتن فرهنگ استفاده از خودرو سبب شد تا در سال ۱۳۰۵ خورشیدی، داشتن تصدیق یا گواهی‌نامه برای رانندگی اجباری شود و به دنبال آن دو سال بعد، اولین قوانین مربوط به رانندگی تنظیم و اداره نظمیه هم موظف به نظارت بر اجرای قوانین شود. البته اولین آیین‌نامه کامل قوانین راهنمایی و رانندگی سال ۱۳۱۸ تصویب شد که از آن به عنوان مادر قوانین راهنمایی و رانندگی یاد می‌شود.

حالا دیگر تقریبا ۱۰۰ سال است که قوانین راهنمایی و رانندگی در ایران شکل گرفته؛ با این وجود گاهی برای رعایت یک قانون مشخص مانند بستن کمربند ایمنی، بهترین راهکاری که باعث فرهنگسازی می‌شود درنظر گرفتن جریمه است! درواقع اینجاست که قانون برای برطرف کردن هرج‌ومرج به کمک فرهنگ آمده، اما به نظر می‌رسد برای موارد دیگر که وابسته به موضوعات ترافیکی نیستند، مانند بوق نزدن در هر ساعتی از شبانه‌روز در کوچه‌ها و پس‌کوچه‌ها، فحش ندادن هنگام رانندگی، نیفتادن پشت آمبولانس، بوق زدنِ بی‌دلیل در ترافیک‌های طولانی و... هنوز کار زیادی تا رسیدن به نقطه فرهنگی مطلوب داریم!

انتهای پیام