مدیرعامل OpenAI در فدرال رزرو آمریکا هشدار داد که موجی از جعل‌های صوتی و تصویری توسط هوش مصنوعی می‌تواند به بحرانی گسترده در اعتماد عمومی و امنیت مالی منجر شود.
در دنیای رو به رشد فناوری، این‌بار «سم آلتمن»، مدیرعامل شرکت OpenAI، درباره تهدیدی هشدار داده که ممکن است به زودی یکی از بزرگ‌ترین چالش‌های امنیت دیجیتال در جهان تبدیل شود: کلاهبرداری با استفاده از هوش مصنوعی.
آلتمن در جریان سخنرانی خود در نشست فدرال رزرو آمریکا اعلام کرد که هوش مصنوعی، به‌ویژه مدل‌های پیشرفتهای مانند چت‌بات‌ها و ابزارهای تولید صدا و تصویر، می‌توانند زمینه‌ساز یک «بحران کلاهبرداری تمام‌عیار» باشند؛ بحرانی که حتی ساختارهای بانکی و اقتصادی را نیز تهدید می‌کند.
جعل صدا و تصویر؛ تهدید جدی برای احراز هویت سنتی
به گفته آلتمن، پیشرفتهای اخیر در هوش مصنوعی به نقطه‌ای رسیده‌اند که دیگر نمی‌توان به روش‌های سنتی احراز هویت، مانند تماس صوتی یا تصویر زنده، اعتماد کرد. او تأکید کرد:
«هوش مصنوعی تقریباً همه روش‌های فعلی احراز هویت را — جز رمز عبور — شکست داده است.»
او هشدار داد که بسیاری از مؤسسات مالی هنوز به تماس‌های صوتی به‌عنوان مدرک معتبر برای تراکنش‌های حساس متکی هستند، درحالی‌که صدای افراد به‌راحتی قابل شبیه‌سازی شده است و دیری نمی‌گذرد که تماس‌های ویدیویی نیز به ابزاری برای فریب تبدیل می‌شوند.
از هشدار تا واقعیت؛ کلاهبرداری‌های هوش مصنوعی از راه رسیده‌اند
هشدار سم آلتمن فقط یک پیش‌بینی تئوریک نیست. موارد متعددی در جهان گزارش شده که در آن‌ها کلاهبرداران از فناوری تقلید صدا برای فریب خانواده‌ها و کارمندان استفاده کرده‌اند. حتی FBI نیز سال گذشته در بیانیه‌ای رسمی از افزایش تهدیدات فیشینگ و دیپ‌فیک خبر داد.
در یک مورد عجیب، فردی با کمک فناوری هوش مصنوعی موفق شد خود را جای یکی از مقامات آمریکایی، یعنی مارکو روبیو، جا بزند و با چند مقام عالی‌رتبه تماس برقرار کند. این نمونه‌ها نشان می‌دهند که تهدید هوش مصنوعی از مرحله فرضیه فراتر رفته و وارد مرحله اجرا شده است.
آیا OpenAI مسئول است؟ آلتمن چه می‌گوید؟
درحالی‌که سم آلتمن نسبت به تبعات گسترده ابزارهای جعل صدا و تصویر هشدار می‌دهد، برخی منتقدان معتقدند که خود OpenAI — با توسعه مدل‌های پیشرفته مانند Sora — در حال فراهم کردن بستری برای همین سوءاستفاده‌هاست.
آلتمن در پاسخ به این انتقادات اظهار کرد که OpenAI روی ابزارهای مرتبط با جعل هویت کار نمی‌کند و هدف از توسعه فناوری، ارتقای خلاقیت، بهره‌وری و خدمات انسانی است. با این‌حال، پرسش‌های جدی درباره نظارت، قانون‌گذاری و استفاده اخلاقی از هوش مصنوعی همچنان بی‌پاسخ باقی مانده‌اند.
ضرورت آمادگی برای چالش‌های هوش مصنوعی
هشدار سم آلتمن را باید جدی گرفت. با پیشرفت سریع مدل‌های تولید صدا و تصویر، دنیا باید خود را برای موج جدیدی از تهدیدات دیجیتال آماده کند؛ تهدیداتی که دیگر فقط محدود به امنیت سایبری نیستند، بلکه اعتماد اجتماعی، امنیت مالی و حتی روابط شخصی را هدف گرفته‌اند.
این بحران نه تنها نیازمند چارچوب‌های قانونی سخت‌گیرانه‌تر است، بلکه آگاهی‌رسانی عمومی و آموزش درباره تشخیص دیپ‌فیک‌ها نیز باید در اولویت قرار گیرد.
