هوش مصنوعی اوپن ای آی در فراوری محتوا توهم زد! - فروشگاه کوچک

شرکت اوپن ای آی ابزار رونویسی مبتنی بر هوش مصنوعی خود به نام ویسپر (Wisper) را با ادعای آنکه دقت و قدرتی معادل یک کاربر انسانی دارد، عرضه نموده است.

اما ویسپر یک چالش اساسی دارد. به گفته مهندسان نرم افزار، توسعه دهندگان و محققان آکادمیک ممکن است این ابزار بخشی از متن یا حتی جملاتی کامل را خودش بنویسد. این کارشناسان معتقدند بعضی از متن های اختراعی این ابزار ممکن است حاوی اظهارات نژادی، خشونت آمیز یا حتی درمان های پزشکی خیالی باشد.

به گفته آنها چنین جملاتی مشکل ساز هستند زیرا از این ابزار در چند صنعت در سراسر دنیا برای تبدیل مصاحبه ها، فراوری متن در زمینه فناوری های مصرفی محبوب و ساخت زیرنویس برای ویدئوها استفاده می گردد.

نکته نگران کننده تر، عجله مراکز پزشکی برای استفاده از ابزارهای مبتنی بر ویسپر برای رونویسی مشاوره های بیماران با پزشکان است. حال آنکه اوپن ای آی قبلا هشدار داده از این ابزار نباید در حوزه هایی با ریسک زیاد استفاده گردد.

گستره کامل این مشکل را به سختی می توان معین کرد اما محققان و مهندسان اعلام نموده اند در فعالیت هایشان اغلب با توهمات ابداعی ویسپر روبرو شده اند. به عنوان مثال یک محقق دانشگاه میشیگان مشغول انجام تحقیقی از جلسات عمومی بود و در هر 10 رونویسی کلیپ صوتی که او آنالیز نموده بود 8 مورد حاوی توهمات ویسپر بودند. پس از آن وی کوشش خود برای ارتقای این مدل هوش مصنوعی را شروع کرد.

یک مهندس یادگیری ماشینی نیز می گوید او بیش از 100 ساعت نمونه رونویسی که ویسپر انجام داده بود را تحلیل و در حدود نیمی از آنها توهمات این هوش مصنوعی را مشاهده نموده است. محقق سومی نیز مدعی شده هنگام آنالیز 26 هزار متنی که با یاری ویسپر ابداع شده، تقریبا در هر یک از رونویسی ها توهمات این ابزار را مشاهده نموده است.