«دیتا روبات» مقابل تهاجم اخبار جعلی و هوش مصنوعی

«گزارش جهانی تهدیدات ۲۰۲۴» حاصل بررسی کارشناسان «مجمع جهانی اقتصاد» می‌گوید انتشار اطلاعات غلط و اخبار جعلی ناشی از هوش مصنوعی بالاتر از تغییرات اقلیمی، جنگ و مشکلات اقتصادی در راس چالش‌های جهانی قرار دارند.

نگرانی از احتمال دست‌اندازی هوش مصنوعی به عرصه‌های سیاسی از جمله انتخابات و تاثیر در آرای صندوق‌های رای به گونه‌ای است که شبکه خبری آمریکایی «سی ‌ان‌ بی ‌سی» در گزارشی که بر اساس داده‌های نظرسنجی «داووس» تهیه شده، نگرانی از تاثیر هوش مصنوعی در برهم زدن نتایج انتخابات را در صدر فهرست بزرگترین خطرات سال ۲۰۲۴ قرار داده است.

به گزارش ایران مامن، چالش‌های ناشی از توسعه هوش مصنوعی و گسترش اخبار جعلی تنها ابعاد سیاسی و مدنی ندارد و نگرانی‌های زیادی را از لحاظ امنیتی به همراه داشته است.

چندی پیش «دیفنس نیوز» گزارشی منتشر کرد که در آن ادعا شده بود نیروهای مسلح آمریکا در مرحله آزمایش یک ابزار مبتنی بر هوش مصنوعی به نام «دیتا روبات» هستند؛ ابزاری که برای شناسایی و کاهش اثرات اطلاعات غلط و تکنولوژی دیپ فیک طراحی شده است. آن طور که گفته شده این ابزار در طول آزمایشات سایبری متعدد مورد ارزیابی قرار گرفته است. آن گونه که برخی کارشناسان ادعا کرده‌اند هدف اصلی این ابزار هوش مصنوعی فراهم کردن اطلاعات دقیق و به موقع به فرماندهان در میدان نبرد است؛ اطلاعاتی که به آنها امکان می دهد تا به صورت موثرتری با کمپین های اطلاعات غلط و سوءاستفاده از اطلاعات مبارزه کنند.

آن طور که کارشناسان امنیتی ادعا کرده اند دیتا روبات این توانمندی را دارد که با بررسی شبکه‌های اجتماعی و سایر اطلاعات منبع باز، محتوای گمراه کننده مانند روبات‌ها و دیپ فیک ها را شناسایی کند آن هم در محیطی که در آن افزایش اطلاعات غلط در پلتفرم هایی مانند توییتر و فیس بوک به یک چالش دردسرساز برای بسیاری از افراد و حتی دولت‌ها تبدیل شده است. یک نمونه نمایان از چنین اطلاعات غلطی ویدئوی تغییر یافته‌ای از رئیس جمهور اوکراین «ولادیمیر زلنسکی» بود که سریعاً تکذیب شد. با این حال، این حوادث نیاز فوری به ابزارهای موثر برای تشخیص سریع حقیقت از داستان ساخته شده، به ویژه برای نیروهای میدانی را مشخص می‌کند.

همچنین، توسعه و آزمایش دیتا روبات نشانگر لزوم اتخاذ رویکرد پیشگیرانه در مقابله با تهدیدات ناشی از اطلاعات غلط و دیپ فیک است و البته اثربخشی آن به آزمایش، تکامل و همکاری مداوم میان بازیگران بزرگ صنعتی و تکنولوژیک بستگی دارد.