چت‌بات آمازون Q با انتقاد گسترده کارمندان مواجه شد
چت‌بات آمازون Q با انتقاد گسترده کارمندان مواجه شد
آمازون هفته گذشته چت‌بات هوش مصنوعی «آمازون Q» را برای استفاده‌های سازمانی معرفی کرد. این چت‌بات به‌عنوان جایگزین قابل‌اعتماد‌تری برای چت‌بات‌های متمرکز بر مصرف‌کننده معرفی شده بود، اما اکنون با انتقاد کارمندان شرکت مواجه شده است.
بر اساس گزارش‌های موجود، آمازون Q در حال تجربه «توهمات شدید» و افشای اطلاعات محرمانه از جمله مکان مراکز داده AWS، ویژگی‌های معرفی‌نشده و برنامه‌های تخفیفی داخلی شرکت است.
کارمندان آمازون در یک سند داخلی به توهمات و پاسخ‌های اشتباه آمازون Q اشاره می‌کنند و می‌گویند: «Amazon Q می‌تواند توهم ایجاد کند و پاسخ‌های مضر یا نامناسبی ارائه دهد.»
موارد اشاره‌شده در این سند، نمونه‌ای از مشکلات مربوط به مدل‌های زبان بزرگ است که تمام آن‌ها حداقل در برخی مواقع پاسخ‌های نادرست یا نامناسب ارائه می‌کنند.
یکی از مدیران AWS نیز اشاره می‌کند که مشکلات این چت‌بات به‌قدری «گسترده و فاحش» است که به کارمندان هشدار داده درباره آن‌ها در کانال‌های عمومی Slack صحبت کنند.
آمازون ادعا می‌کند که هیچ مشکل امنیتی در چت‌بات سازمانی خود شناسایی نکرده است. سخنگوی این شرکت می‌گوید: «به‌دنبال بازخوردها، هیچ مشکلی امنیتی شناسایی نشده است. ما از تمام بازخوردهایی که تاکنون دریافت کرده‌ایم تشکر می‌کنیم و در مسیر تبدیل Q از محصولی در مرحله پیش‌نمایش به یک محصول عمومی، به بهینه‌سازی آن ادامه خواهیم داد.»
آمازون Q به‌عنوان یک نسخه سازمانی از ChatGPT معرفی شده است. ChatGPT نیز یک مدل زبان بزرگ است که توسط OpenAI توسعه یافته است. در زمان معرفی آمازون Q گفته شد که به‌گونه‌ای طراحی شده است که نسبت به سایر ابزارهای مشابه خود ایمن‌تر باشد.
بااین‌حال، اسناد داخلی این شرکت خطر ارائه اطلاعات نادرست یا مضر توسط Q را نشان می‌دهد. این چت‌بات برای کمک به کارمندان در زمینه‌هایی ازجمله نوشتن ایمیل، خلاصه‌کردن گزارش‌ها، عیب‌یابی، تحقیق و کدنویسی ساخته شده است.
اگرچه آمازون ادعا می‌کند که هیچ مشکل امنیتی در Q شناسایی نکرده است، اما مشکلات این چت‌بات می‌تواند برای شرکت و کارمندان آن خطراتی ایجاد کند.
بیشتر بخوانید:
ابزارهای بسیار خوب در حوزه AI و چت بات‌ها
یادگیری ماشین (Machine Learning) چیست
