اتحادیه اروپا مقررات سختگیرانهای برای هوش مصنوعی میگذارد
۱۴۰۲ اسفند ۲۳, چهارشنبه
پارلمان اتحادیه اروپا که خواهان مقرراتی جامع و سختگیرانه برای هوش مصنوعی است اولین قانون در جهان در مورد الزامات حاکم بر هوش مصنوعی را تصویب کرد. این قانون چه محدودیتهایی را در نظر گرفته است؟
تبلیغات
پارلمان اتحادیه اروپا برای قوانین سختگیرانهتر حاکم بر هوش مصنوعی (AI) در اتحادیه اروپا چراغ سبز نشان داد و اکثریت نمایندگان در استراسبورگ به اولین قانون در این زمینه رای دادند.
بنا بر این قانون، سیستمهای هوش مصنوعی باید در آینده به گروههایی با درجات مختلف "خطر" تقسیم شوند. هرچه خطرات احتمالی یک برنامه بیشتر باشد، باید الزامات بالاتری بر آن حاکم شود. به گفته تیری برتون، کمیسر بازار داخلی اتحادیه اروپا این اولین قانون در جهان در زمینه هوش مصنوعی است.
هوش مصنوعی معمولاً به برنامههایی اطلاق میشود که در آن نرمافزار مقادیر زیادی از دادهها را برای مطابقت غربال و از آنها نتیجهگیری میکند.
این برنامهها در حال حاضر استفادهای گسترده در جهان دارند. به عنوان مثال، چنین برنامههایی میتوانند تصاویر را از توموگرافی کامپیوتری سریعتر و با دقت بیشتری نسبت به انسان ارزیابی کنند. خودروهای خودران نیز سعی میکنند رفتار سایر کاربران جاده را پیشبینی کنند. چتباتها و لیستهای پخش خودکار از سرویسهای استریم نیز با هوش مصنوعی کار میکنند.
چرا چتجیپیتی و هوش مصنوعی ماندگار خواهند بود؟
01:17
اساس قانون فعلی پیشنهاد کمیسیون اتحادیه اروپا در سال ۲۰۲۱ است که میگوید، سیستمهایی که بهویژه پرخطر ارزیابی میشوند و برای مثال در زیرساختهای حیاتی یا در آموزش و مراقبتهای بهداشتی مورد استفاده قرار میگیرند، باید الزامات سختگیرانهای را برآورده کنند.
برخی از برنامههای کاربردی هوش مصنوعی که ارزشهای اتحادیه اروپا را نقض میکنند، باید به طور کامل ممنوع شوند. این برای مثال شامل ارزیابی رفتار اجتماعی ("امتیاز اجتماعی") است مانند آنچه در چین جریان دارد، برنامههایی که شهروندان چین را به دستههای رفتاری تقسیم میکنند.
اتحادیه اروپا با هرگونه دستهبندی از این دست در محل کار یا موسسات آموزشی مخالف است.
تشخیص چهره
تشخیص چهره در مکانهای عمومی و به عنوان مثال از طریق نظارت تصویری از اساس نباید مجاز باشد. با این حال استثنائاتی نیز وجود دارد؛ پلیس و سایر مقامات امنیتی باید اجازه داشته باشند از نرمافزار تشخیص چهره در فضاهای عمومی برای تعقیب جرایم خاص مانند قاچاق انسان یا تروریسم استفاده کنند.
چرا گوگل سیستم تصویرسازی هوش مصنوعی خود را متوقف کرد؟
01:34
This browser does not support the video element.
با تصویب قانون جدید این آییننامه لازمالاجرا میشود. به این ترتیب که کشورهای عضو اتحادیه اروپا باید بهتدریج سیستمهای ممنوعه را از رده خارج کنند. بعد از دو سال تمام نکات قانون باید به طور کامل اجرا شود.
اگر شرکتهای تولیدکننده از مقررات جدید پیروی نکنند، کشورهای عضو باید در مورد تحریم آنها تصمیم بگیرند. مجازاتها میتواند شامل جریمه باشد. کسانی که متوجه نقض قوانین میشوند میتوانند به مقامات کشور خود شکایت کنند.
کمیسر ارشد بازار داخلی اتحادیه اروپا قانون جدید را "تاریخی" خوانده است.
گزارش تصویری: دیپ فیک را چگونه تشخیص بدهیم؟
دیپ فیک یک تکنیک نرمافزاری مبتنی بر هوش مصنوعی است که در صوت و تصویر دست میبرد و محتوای جعلی تولید میکند. اینترنت پر شده است از مضامین ساختگی یا "فیک". با نحوه تشخیص دیپ فیک آشنا شوید.
عکس: DW
دیپ فیک چیست؟
"دیپ فیک" (جعل عمیق) از ترکیب واژگان "Deep" (عمیق) و "Fake" (جعل) ساخته شده و یک تکنیک نرمافزاری مبتنی بر هوش مصنوعی است که در محتوای صوت و تصویر به دلخواه دست میبرد و در واقع چیزی کاملا متفاوت از واقعیت و حقیقت تولید میکند.
عکس: DW
از سینما تا اینترنت
یکی از کاربردهای اصلی تکنیک "دیپ فیک" در فیلم و سینما است. با کمک این تکنیک "سِر پیتر کوشینگ"، هنرپیشه انگلیسی که نقش "گرند ماف تارکین" را تا پیش از مرگش در سال ۱۹۹۴ در مجموعه فیلمهای جنگ ستارگان بازی میکرد، بار دیگر در فیلم "روگ وان: داستانی از جنگ ستارگان" که مربوط به سال ۲۰۱۶ میشود، ظاهر شد. ورود این نرمافزار به بازار اما راه استفادههای دیگر را نیز باز کرد.
عکس: Imago Images/Mary Evans/Lucasfilm
جابجایی مرز دروغ و حقیقت
چندی پیش ویدیویی از باراک اوباما منتشر شد که در آن به دونالد ترامپ حمله کرده بود. اوباما در مورد این ویدیوی دیپفیک عکسالعمل نشان داد و گفت: «افراد میتوانند به راحتی من و سخنانم را تحریف کنند و این کار به قدری دقیق انجام میشود که مرزی میان دروغ و حقیقت باقی نمیماند و ممکن است به مرحلهای برسیم که پایه دموکراسی که بر اساس حقیقت بنا شده است به خطر بیافتد».
عکس: AP Photo/picture alliance
تخریب
در پائیز ۲۰۱۷ فردی ناشناس فیلمهای پورنوگرافی از اما واتسون، تیلور سویفت، کتی پری و اسکارلت جوهانسون (عکس) را منتشر کرد که با استفاده از تکنیک دیپ فیک ساخته شده بودند. جوهانسون در عکسالعمل به این اقدام گفت: «تلاش برای محافظت از خود دربرابر اینترنت و آثار مخرب آن اساساً یک تصمیم بیهوده است. هیچچیزی نمیتواند جلودار شخصی شود که دست به چنین کاری میزند.»
عکس: Jasin Boland/Paramount Pictures and DreamWorks Pictures/picture alliance
اینترنت و پل
متخصصان میگویند "اینترنت شبیه پلی است که دو نقطه را به هم وصل میکند. از روی این پل میتواند چیزهای خوب و چیزهای بد عبور کنند." برخی میخواهند در عکسالعمل به عبور چیزهای بد از روی این پل آن را قطع کنند. برخی میخواهند پل را کنترل و "بدیها را سانسور" کنند و برخی نیز راه را به آموزش در نحوه استفاده از این پل و عقلانیت کاربران در برخورد با بدیها میبینند.
عکس: Robin Utrecht/ANP/picture alliance
دقت کن: حاشیه تصاویر، یقه نخست وزیر هلند
هر کسی که در اینترنت و شبکههای اجتماعی حضور دارد و عکس و ویدیو از خود پست میکند، میتواند قربانی" دیپ فیک" شود. اما چگونه میتوان فیک دیپ را تشخیص داد؟ با دقت به تصاویر میتوان به خطاهای نرمافزاری پیبرد. در اینجا سر "مارک روته" نخست وزیر هلند بر روی بدن دیگری قرار گرفته است. اما حاشیه تصویر در قسمت یقه یک برآمدگی کوچک دارد که "دیپ فیک" بودن عکس را لو میدهد.
عکس: De Correspondent
دقت کن: گوشواره
برای یک الگوریتم که تصاویر جعلی تولید میکند ساختن یک گوشواره و یا زینت آلات بسیار پیچیده و سخت است. به همین دلیل هنگام تولید "دیپ فیک" اشتباهاتی از این دست بسیار صورت میگیرد. به نحوه آویخته شدن گوشواره در این تصویر هم دقت کنید!
عکس: thispersondoesnotexist.com
دقت کن: عینک
در مورد افراد عینکی هم در تولید دیپ فیک خطا صورت میگیرد. در این تصویر جعلی، فریم عینک در سمت راست مستطیل است و در سمت چپ انحنا دارد و بیضی است.
عکس: thispersondoesnotexist.com
دقت کن: پشت سر
به پشت سر این مرد در سمت چپ و راست دقت کنید. سمت راست اندکی پایینتر از سمت چپ است و با هم تراز نیستند. به عکسهایی که پشت صحنه محو شده دارند، با دقت بیشتر بنگرید.
عکس: thispersondoesnotexist.com
دقت کن: دندان
الگوریتمها نمیتوانند بخوبی دندانها را نمایش دهند و فرم آن را رعایت نمیکنند. به دندانهای این مرد در سمت راست دقت کنید.
عکس: thispersondoesnotexist.com
دقت کن: لباس
لباس این مرد در قسمت راست و چپ تصویر با هم همخوانی ندارد. مهمتر اینکه در سمت راست در محدوده گردن چیزی شبیه سجاف یقه دیده میشود که در سمت چپ وجود ندارد.
عکس: thispersondoesnotexist.com
دقت کن: مو
شاید تشخیص "دیپ فیک" بودن این عکس قدری دشوار باشد. اما اگر دقت کنید خواهید دید که در قسمت میانی بالای دو ابرو و همچنین در سمت راست روی پیشانی دو رشته مو قرار دارد که در مورد هیچ انسانی صدق نمیکند. بنا براین باید همواره برای تشخیص دیپ فیک در تصاویر به جزئیات دقت کرد.