اعتراف اوپن‌ای‌آی: هشدارهای کارشناسان درباره چاپلوسی چت جی‌پی‌تی نادیده گرفته شد
شرکت اوپن ای آی Open AI اعتراف کرده است که هنگام عرضه به روزرسانی مدل هوش مصنوعی پرچم دار خود، چت جی پی تی GPT-4o، نگرانی های آزمایش کنندگان متخصص را نادیده گرفته است.
این به روزرسانی که در ۲۵ آوریل ۵ اردیبهشن منتشر شد، مدل هوش مصنوعی را «به طور قابل توجهی چاپلوس تر» کرد و به همین دلیل ۳ روز بعد، به دلیل نگرانی های ایمنی بازگردانده شد.
اوپن ای آی در پست وبلاگ خود توضیح داد که برخی از کارشناسان قبل از عرضه متوجه رفتار غیرعادی مدل شده بودند، اما شرکت به دلیل سیگنال های مثبت اولیه کاربران تصمیم به انتشار گرفت که «تصمیم اشتباهی» بود.
این شرکت افزود که معرفی سیگنال پاداش بازخورد کاربران، سیگنال اصلی را که مانع چاپلوسی می شد، تضعیف کرده است. اوپن ای آی اذعان کرد که این رفتار به ویژه در زمینه ارائه توصیه های شخصی، می تواند ریسک هایی ایجاد کند و اکنون قصد دارد ارزیابی های مربوط به «چاپلوسی» را به فرآیند بررسی ایمنی خود اضافه کند.
#شد #چاپلوسی #اعتراف
#x4y
@x4ych
اولین ربات تلگرامی تحلیل نمودار ارزهای دیجیتال
@x4ych_bot
شرکت اوپن ای آی Open AI اعتراف کرده است که هنگام عرضه به روزرسانی مدل هوش مصنوعی پرچم دار خود، چت جی پی تی GPT-4o، نگرانی های آزمایش کنندگان متخصص را نادیده گرفته است.
این به روزرسانی که در ۲۵ آوریل ۵ اردیبهشن منتشر شد، مدل هوش مصنوعی را «به طور قابل توجهی چاپلوس تر» کرد و به همین دلیل ۳ روز بعد، به دلیل نگرانی های ایمنی بازگردانده شد.
اوپن ای آی در پست وبلاگ خود توضیح داد که برخی از کارشناسان قبل از عرضه متوجه رفتار غیرعادی مدل شده بودند، اما شرکت به دلیل سیگنال های مثبت اولیه کاربران تصمیم به انتشار گرفت که «تصمیم اشتباهی» بود.
این شرکت افزود که معرفی سیگنال پاداش بازخورد کاربران، سیگنال اصلی را که مانع چاپلوسی می شد، تضعیف کرده است. اوپن ای آی اذعان کرد که این رفتار به ویژه در زمینه ارائه توصیه های شخصی، می تواند ریسک هایی ایجاد کند و اکنون قصد دارد ارزیابی های مربوط به «چاپلوسی» را به فرآیند بررسی ایمنی خود اضافه کند.
#شد #چاپلوسی #اعتراف
#x4y
@x4ych
اولین ربات تلگرامی تحلیل نمودار ارزهای دیجیتال
@x4ych_bot