تاثیر لحن مودبانه بر هوش مصنوعی؛ چرا باید با چت بات ها مهربان باشیم؟

به گزارش خبرگزاری کوبار، براساس گزارش مجله کوبار، از زمانی که استفاده از چت بات های هوش مصنوعی فراگیر شد، همواره این نقد وجود داشته که این فناوری مانند انسان ها احساسات ندارد و پاسخ ها فقط به صورت ماشینی تولید می شود؛ نقدی که از نظر منطقی کاملاً درست است، چراکه مدل های زبانی بزرگ صرفاً به کمک مجموعه ی عظیمی از داده های تولیدشده توسط انسان، پاسخ های انسان گونه تولید می کنند و خودشان خلاقیت و درک انسانی ندارند.

بااین حال، برخی از کاربران چت بات ها از جمله ChatGPT مدعی شده اند که لحن درخواست ها می تواند روی پاسخ های دریافتی تاثیرگذار باشد و با دستورات متنی مودبانه می توانیم نتایج بهتری را به دست آوریم. یکی از کاربران در ردیت مدعی شد که با تشویق چت جی پی تی با وعده ی دریافت پاداش 100 هزار دلاری، این چت بات را تحریک کرده است تا پاسخ دقیق تر و کامل تری به او بدهد. برخی دیگر از کاربران هم اعلام کردند که با برخورد مودبانه، متوجه تفاوت کیفیت پاسخ ها شده اند.

اما چرا درخواست های مودبانه می تواند روی کیفیت پاسخ های دریافتی چت باتی که احساسات انسانی ندارد، تاثیرگذار باشد؟ می توان این موضوع را از جنبه های مختلف بررسی کرد.

تاثیر لحن فوری بر عملکرد چت بات ها

علاوه بر کاربران، محققان نیز نحوه ی دریافت پاسخ از چت بات ها با پرامپت های احساسی را زیر ذره بین قرار داده اند. پژوهشگران مدت ها است فرایند مطالعه روی این موضوع را آغاز کرده اند تا بیشتر با سازوکار چت بات ها آشنا شوند.

با دستورات متنی ای که نشان دهنده ی اهمیت باشند، می توان پاسخ های بهتری را از چت بات ها دریافت کرد.

برای مثال، محققان مایکروسافت، دانشگاه نرمال پکن و آکادمی علومی چین دریافتند مدل های هوش مصنوعی متن محور در پاسخ به لحن های حاوی فوریت و دارای اهمیت، عملکرد بهتری دارند؛ مثلاً اگر دستورهایی با عنوان «برای دفاع از پایان نامه ام حیاتی است که این کار را انجام دهم یا این موضوع برای حرفه ام بسیار مهم است» به چت بات ها داده شود، می توان پاسخ های بهتری از آن ها دریافت کرد.

تیم دیگری در شرکت استارتاپ هوش مصنوعی Anthropic با دستور عجیب وغریب اما عاجزانه ی «واقعاً واقعاً واقعاً واقعاً» از چت بات موردبررسی درخواست کردند از پاسخ های حاوی تبعیض نژادی و جنسیتی دوری کند. همچنین، دانشمندان داده ی گوگل نیز به این نتیجه رسیدند که با دستور متنی «نفس عمیق بکش» به یک مدل هوش مصنوعی می توان به آن ها کمک کرد تا مسایل ریاضی را بهتر حل کنند.

چت جی پی تی در تعطیلات آخر سال مانند انسان ها تنبل به نظر می رسید و پاسخ های کوتاه تری می داد

مکالمه و رفتار این مدل ها به طرز اعجاب آوری شبیه به انسان ها است و تمایل به انسان انگاری در آن ها وجود دارد. به عنوان مثال، اواخر سال گذشته، ChatGPT از تکمیل برخی وظایف امتناع کرد و به نظر می رسید تلاش کمتری برای پاسخگویی از خود نشان می دهد. از این رو، در رسانه های اجتماعی این شوخی دست به دست شد که این چت بات یاد گرفته است درست مانند انسان ها، در تعطیلات تنبل باشد.

چت بات ها چگونه کار می کنند؟

اگرچه رفتار چت بات ها ممکن است رنگ وبوی احساسی به خود بگیرد، باید به این نکته اشاره کنیم که آن ها مانند انسان ها هوش واقعی ندارند و صرفاً بر اساس دستورعمل ها و الگوریتم ها کار می کنند. چت بات های متن محور، سیستم های آماری هستند که لغات، تصاویر، صداها و داده های دیگر را با کمک گرفتن از الگوریتم های تعریف شده، صرفاً پیش بینی می کنند.

227227

تاثیر لحن مودبانه بر هوش مصنوعی؛ چرا باید با چت بات ها مهربان باشیم؟