نیک تورلی، رئیس بخش ChatGPT در OpenAI، در مصاحبه‌ای با پادکست Decoder وب‌سایت The Verge، بار دیگر بر لزوم بررسی صحت پاسخ‌های هوش مصنوعی تأکید کرد. این هشدار که در پایین صفحه ChatGPT با متن «ChatGPT ممکن است اشتباه کند. اطلاعات مهم را بررسی کنید» نمایش داده می‌شود، حتی در مدل جدید GPT-5 نیز حفظ شده است. این موضوع نشان‌دهنده چالش‌های مداوم در قابلیت اطمینان ابزارهای هوش مصنوعی مولد است. در این مقاله از آی تی پالس، جزئیات اظهارات تورلی، دلایل خطاهای هوش مصنوعی، و توصیه‌ها برای استفاده ایمن از ChatGPT را بررسی می‌کنیم، با استناد به واکنش‌های کاربران در شبکه اجتماعی X.
چرا بررسی صحت پاسخ‌های ChatGPT ضروری است؟
فاصله با قابلیت اطمینان کامل
تورلی در پادکست Decoder توضیح داد: «فاصله زیادی بین خیلی قابل‌اعتماد و صددرصد قابل‌اعتماد وجود دارد. تا زمانی که ثابت نکنیم از متخصصان انسانی در همه حوزه‌ها قابل‌اعتمادتریم، کاربران باید پاسخ‌ها را بررسی کنند.» این اظهارنظر نشان می‌دهد که حتی با پیشرفت‌های چشمگیر GPT-5، هوش مصنوعی هنوز نمی‌تواند جایگزین کامل قضاوت انسانی شود.
پدیده «توهم» در هوش مصنوعی
یکی از چالش‌های اصلی ابزارهای هوش مصنوعی مولد مانند ChatGPT، پدیده‌ای به نام Hallucination (توهم) است. این ابزارها برای پیش‌بینی محتمل‌ترین پاسخ طراحی شده‌اند، نه برای درک حقیقت. به همین دلیل، ممکن است اطلاعاتی ارائه دهند که دقیق یا واقعی نباشد. تورلی تأکید کرد: «هدف اصلی این مدل‌ها تولید پاسخ‌های محتمل است، نه لزوماً حقیقت.»
کاربران در X نیز به این موضوع واکنش نشان داده‌اند. یکی از کاربران نوشت: «اینکه ChatGPT هنوز توهم داره، یه کم نگران‌کننده‌ست. باید همیشه حواست به جواباش باشه!»
ChatGPT به‌عنوان نظر دوم، نه منبع اصلی
تورلی توصیه کرد که کاربران به ChatGPT به‌عنوان یک نظر دوم نگاه کنند، نه منبع اصلی حقیقت. او گفت: «بهترین عملکرد ChatGPT زمانی است که در کنار منابع معتبر مانند موتورهای جستجو یا داده‌های اختصاصی شرکت‌ها استفاده شود.» این دیدگاه با افزودن قابلیت جستجوی وب به ChatGPT تقویت شده است، که به کاربران امکان می‌دهد پاسخ‌ها را با اطلاعات به‌روز و معتبر مقایسه کنند.
پیشرفت‌های GPT-5
تورلی اعلام کرد که GPT-5 نسبت به مدل‌های قبلی، مانند GPT-4o، در کاهش خطاها پیشرفت چشمگیری داشته است. این مدل در بنچمارک‌هایی مانند GPQA Diamond (89.4٪) و SWE-Bench Verified (74.9٪) عملکردی در سطح دکتری نشان داده است. با این حال، او اذعان کرد که مشکل توهم همچنان وجود دارد و حل کامل آن به زمان نیاز دارد: «مطمئنم در نهایت مشکل توهم را حل می‌کنیم، اما قطعاً نه در فصل آینده.»
توصیه‌های تورلی برای استفاده ایمن از ChatGPT
- بررسی با منابع معتبر: حتی اگر ChatGPT لینک‌هایی برای پشتیبانی از پاسخ‌های خود ارائه دهد، کاربران باید اطلاعات را با منابع موثق یا نظر کارشناسان مقایسه کنند.
- استفاده ترکیبی: ترکیب ChatGPT با ابزارهایی مانند گوگل سرچ یا پایگاه‌های داده تخصصی، دقت پاسخ‌ها را افزایش می‌دهد.
- هوشیاری در برابر توهم: کاربران باید آگاه باشند که پاسخ‌های هوش مصنوعی ممکن است شامل اطلاعات نادرست یا غیرواقعی باشد.
زمینه‌های گسترده‌تر: رقابت و اعتماد به AI
رقابت با xAI و گوگل
اظهارات تورلی در حالی مطرح شده که ایلان ماسک، مدیرعامل xAI، اخیراً گوگل را به‌عنوان پیشتاز هوش مصنوعی تحسین کرده و در عین حال OpenAI را به تبانی با اپل متهم کرده است. Grok 4 از xAI، که به‌صورت رایگان عرضه شده، در بنچمارک Humanity’s Last Exam با امتیاز 25.4٪ از GPT-5 (21٪ برای o3 High) پیشی گرفته است. این رقابت نشان‌دهنده فشار بر OpenAI برای بهبود قابلیت اطمینان و کاهش خطاها است.
نگرانی‌های کاربران
کاربران در X نگرانی‌هایی درباره اعتماد به هوش مصنوعی مطرح کرده‌اند. یکی از کاربران نوشت: «اگه مدیر ChatGPT می‌گه خودتون باید جوابا رو چک کنید، پس چرا باید ازش استفاده کنیم؟» این واکنش‌ها نشان‌دهنده نیاز به شفافیت بیشتر در مورد محدودیت‌های AI است.
تأثیر بر صنایع
مطالعات اخیر، مانند پژوهش دانشگاه سیلیسیا در مورد کاهش مهارت پزشکان به دلیل وابستگی به AI، نشان می‌دهد که اعتماد بیش از حد به این فناوری‌ها می‌تواند پیامدهای منفی داشته باشد. تورلی با تأکید بر بررسی صحت پاسخ‌ها، به‌نوعی به این نگرانی‌ها پاسخ داده و بر اهمیت نظارت انسانی تأکید کرده است.
نتیجه‌گیری: هوش مصنوعی، ابزاری قدرتمند اما نه بی‌نقص
اظهارات نیک تورلی نشان می‌دهد که حتی با پیشرفت‌های چشمگیر GPT-5، هوش مصنوعی هنوز با ایده‌آل فاصله دارد. هشدار درباره بررسی صحت پاسخ‌ها، یادآور این است که ChatGPT و ابزارهای مشابه باید به‌عنوان مکمل، نه جایگزین، قضاوت انسانی استفاده شوند. با رقابت فزاینده بین OpenAI، xAI، و گوگل، و افزایش نگرانی‌ها درباره خطاهای AI، کاربران باید هوشیار باشند و پاسخ‌ها را با منابع معتبر مقایسه کنند. آی تی پالس، مرجع اخبار فناوری، شما را با آخرین تحولات دنیای هوش مصنوعی همراهی می‌کند.
