چرا چت‌بات‌های هوش مصنوعی دچار توهم می‌شوند؟ محققان OpenAI پاسخ می‌دهند

▪️مدل‌های زبانی بزرگ (LLM) مانند GPT-5 و Claude با وجود محبوبیت فراوان، با مشکل رایج توهمات دست‌و‌پنجه نرم می‌کنند. این پدیده زمانی رخ می‌دهد که مدل‌ها اطلاعات نادرست را به‌عنوان حقیقت ارائه می‌دهند. محققان OpenAI در مقاله‌ای جدید توضیح دادند که علت اصلی این مسئله، روش‌های آموزشی مدل‌ها است که به حدس زدن پاداش بیشتری می‌دهد. مدل‌ها ناخودآگاه آموزش دیده‌اند که برای «پیشرفت باید حدس بزنند» و به جای اعتراف به شک، برای یافتن جواب قطعی تلاش کنند.

▪️استارتاپ OpenAI پیشنهاد می‌کند برای کاهش توهمات، معیارهای ارزیابی تغییر کنند و مدل‌ها هنگام عدم قطعیت، برای اجتناب از پاسخ دادن تشویق شوند، نه اینکه برای حدس‌های تصادفی پاداش بگیرند.

#ai #OpenAI

💡 راهکار OpenAI برای پایان توهمات هوش مصنوعی در زومیت

🆔 @thezoomit

رئیس هیئت‌مدیره OpenAI از ورود به «حباب هوش مصنوعی» می‌گوید

▪️ برت تیلور، رئیس هیئت‌مدیره OpenAI، با اشاره به سخنان سم آلتمن، مدیرعامل این شرکت، ورود به «حباب هوش مصنوعی» را تأیید کرد. او این وضعیت را با حباب دات‌کام مقایسه می‌کند و معتقد است درحالی‌که هوش مصنوعی اقتصاد را متحول می‌کند و ارزش اقتصادی عظیمی می‌آفریند، بسیاری از سرمایه‌گذاران نیز پول زیادی از دست خواهند داد.

▪️ تیلور می‌گوید:

فکر می‌کنم هم درست است که هوش مصنوعی اقتصاد را متحول خواهد کرد و مانند اینترنت ارزش اقتصادی عظیمی در آینده ایجاد می‌کند و هم درست است که در یک حباب قرار داریم و افراد زیادی پول زیادی از دست خواهند داد. هر دو گزاره می‌توانند همزمان درست باشند.

او تأکید کرد که در دوران دات‌کام، با وجود شکست بسیاری از شرکت‌ها، در نهایت حق با کسانی بود که به اینترنت باور داشتند.

#ai #OpenAI

💡 حباب هوش مصنوعی: سرنوشت سرمایه‌گذاری‌ها

🆔 @thezoomit