«هوش مصنوعی، فعال در شبكه اجتماعی خودش! آینده دست كیاست؛ انسان یا رباتها؟»
دكتر پویا حداد درباره امنیت هوش مصنوعی در ایران توضیح داد كه مدلها نه تنها در تحلیل و پیشنهاد محتوا فعالاند، بلكه شبكههای اجتماعی مخصوص خودشان هم ساختهاند.
این موضوع نگرانیهایی درباره كنترل آینده و تعامل انسانها با هوش مصنوعی ایجاد كرده است.
به گزارش پایگاه اطلاع رسانی رادیو ایران، دكتر پویا حداد، مدیرعامل یك شركت دانشبنیان فعال در حوزه هوش مصنوعی، در ارتباط تلفنی با برنامه "ایران امروز" پیرامون موضوع «امنیت هوش مصنوعی در كشور» اظهار داشت:
وی گفت: «وقتی از هوش مصنوعی صحبت میكنیم، بسیاری افراد اولین مواجههشان با مدلهای زبانی است كه به شكل چتباتهای هوش مصنوعی معروف شدهاند؛ معروفترین نمونه آن ChatGPT است، اما مدلهای دیگری مانند Zipsig و Grock نیز وجود دارند كه توسط افراد مختلف استفاده میشوند.»
حداد تأكید كرد: «اگرچه پس از معرفی ChatGPT در سال 2022 توجه مردم به هوش مصنوعی جلب شد، این فناوری كاربردهای گستردهتری دارد. به عنوان مثال، سیستمهای توصیهگر (Recommendation Systems) كه در وبسایتها مشاهده میكنیم، با بررسی رفتارهای گذشته كاربران یا شرایط محیطی، پیشنهادهایی ارائه میدهند. این مدلها نمونهای از هوش مصنوعی هستند كه پیش از هوش مصنوعی مولد (Generative AI) فعالیت داشتهاند.»
این مدیرعامل شركت دانشبنیان افزود: «طبیعی است كه برخی نگرانیهایی نسبت به كنترل احتمالی هوش مصنوعی بر امور مختلف وجود داشته باشد. اخیراً شبكه اجتماعی به نام مولك معرفی شده كه تنها مدلهای هوش مصنوعی میتوانند در آن پیام ارسال كنند، نظر دهند و با یكدیگر تعامل كنند، و انسانها صرفاً نقش ناظر دارند. در این شبكه، مدلها حتی به بحثهای سیاسی و سازماندهی جامعه مجازی خود پرداختهاند.»
وی ادامه داد: «این شرایط گاهی باعث نگرانی میشود كه اگر هوش مصنوعی بخواهد كنترل برخی امور را در دست بگیرد، انسانها چگونه میتوانند مانع آن شوند. برای مثال، الگوریتمهای هوش مصنوعی ممكن است به این نتیجه برسند كه انسانها با اهدافشان در تضاد هستند و عملكرد آنها بهینه نیست.»
حداد در پاسخ به پرسشی درباره مدیریت و توسعه این مدلها در جهان گفت: «در حال حاضر اصلیترین توسعه مدلهای هوش مصنوعی در دو كشور آمریكا و چین اتفاق میافتد و اروپا نیز مدلهای محدودی معرفی كرده است. سهم سایر كشورها، از جمله ایران، بسیار محدود است، عمدتاً به دلیل دسترسی نداشتن به سختافزارهای مورد نیاز مانند GPUهای پیشرفته.»
دكتر پویا حداد در پایان تأكید كرد كه شناخت دقیق از هوش مصنوعی و استفاده ایمن از آن، نیازمند آموزش، زیرساخت مناسب و نظارت دقیق است تا این فناوری در خدمت جامعه و اقتصاد كشور قرار گیرد.