پخش زنده
امروز: -
چرا پیچیدگی باعث شکست عاملهای هوش مصنوعی میشود؟
گزارشهای جدید نشان میدهد که عاملهای هوش مصنوعی با وجود نمایشهای خیرهکننده در محیطهای آزمایشی، در مواجهه با وظایف پیچیده و چندمرحلهای در دنیای واقعی بهشدت آسیبپذیر هستند؛ این «تجمع خطاها» میتواند منجر به شکست گسترده پروژههای تجاری مبتنی بر هوش مصنوعی شود.
به گزارش خبرگزاری صداوسیما، پژوهشهای منتشر شده از سوی «استکادمیک» حاکی از آن است که بزرگترین چالش فعلی عاملهای هوش مصنوعی، نه توانایی انجام وظایف، بلکه «قابلیت اعتماد» در محیطهای واقعی است. بر اساس این گزارش، برخلاف دموهای تبلیغاتی که تنها موفقیت در یک وظیفه ساده را نشان میدهند، در محیط واقعی این سامانهها باید دهها مرحله مختلف (از درک درخواست تا تحویل نتیجه نهایی) را پشت سر بگذارند.
نویسندگان این گزارش با استفاده از یک مدل ریاضی توضیح میدهند که احتمال موفقیت کل یک فرایند، برابر است با احتمال موفقیت هر مرحله به توان تعداد مراحل. به این معنا که حتی اگر هر مرحله ۹۵ درصد موفقیت داشته باشد، با افزایش تعداد مراحل، احتمال شکست کل عملیات بهسرعت افزایش مییابد.
این گزارش، ریشه شکستها را در خطاهایی نظیر تحلیل نادرست درخواست توسط مدل زبانی، نقص در فراخوانی ابزارهای جانبی، بازیابی ناقص اطلاعات و اختلال در مدیریت حافظه سامانه میداند.
در همین راسته، مؤسسه تحقیقاتی «گارتنر» پیشبینی کرده است که تا پایان سال ۲۰۲۷، بیش از ۴۰ درصد از پروژههای عاملهای هوش مصنوعی به دلیل هزینههای بالا، نبود ارزش اقتصادی روشن و ضعف در مدیریت ریسک، متوقف یا لغو خواهند شد.
کارشناسان برای عبور از این بحران، چهار راهکار کلیدی پیشنهاد کردهاند:
۱. کوتاهتر کردن زنجیره اجرای وظایف.
۲. اعتبارسنجی خروجی هر مرحله پیش از رفتن به مرحله بعد.
۳. ثبت کامل مراحل اجرا برای بررسی دقیق خطاها.
۴. ارزیابی عملکرد کل فرایند بهجای سنجش تکپاسخها.
در نهایت، این تحلیلها تأکید میکند که مشکل اصلی نه در ضعف مدلهای زبانی، بلکه در پیچیدگی هماهنگی میان اجزای مختلف است و نسل آینده این ابزارها باید بتوانند منشأ خطاها را بهصورت شفاف نمایش دهند تا به ابزارهایی قابل اعتماد در دنیای واقعی تبدیل شوند.
نظر شما