همکاری انسان و هوش مصنوعی در پژوهش: طلوع پژوهشگر هیبریدی

در چارچوب مدرسه تابستانه کاربرد هوش مصنوعی در پژوهش، کارگاه آموزشی «چارچوب‌های اخلاقی پژوهش و پیاده‌سازی آنها در فرآیند همکاری انسان و هومَص» توسط معاونت پژوهشی دانشکده علوم ارتباطات دانشگاه علامه طباطبائی و با همکاری گروه مطالعات هوش مصنوعی انجمن ایرانی مطالعات فرهنگی و ارتباطات، روز چهارشنبه، ۳۱ تیرماه ۱۴۰۵ از ساعت ۸ تا  ۱۲ در سالن شورا دانشکده علوم ارتباطات و با تدریس دکتر حمیدرضا حسن‌پور و دکتر محمد مهدی مولائی برگزار شد.

دکتر حسن‌پور با طرح مفهوم «پژوهشگر هیبریدی» به موضوع استفاده یا عدم استفاده از هوش مصنوعی در پژوهش‌ها پرداخت و در ادامه ملاحظات، نقاط منفی و مثبت کاربرد هوش مصنوعی و ویژگی‌های انواع هوش مصنوعی توسط مدرسان به شرح زیر ارائه شد:

هوش مصنوعی به عنوان حوزه مطالعاتی بین رشته‌ای، ریشه در مباحث نظری ریاضیات، منطق و فلسفه ذهن دارد و تولد رسمی آن اغلب به کارگاه تابستانی دارتموث در سال ۱۹۵۶ میلادی نسبت داده می‌شود؛ هرچند این حوزه در دهه‌های بعدی با فراز و نشیب‌هایی نظیر «زمستان‌های هوش مصنوعی» روبه‌رو شد، اما هرگز از کانون پژوهش‌های بنیادین خارج نشد. در ایران نیز این عنوان در برنامه درسی رشته کامپیوتر دانشگاه صنعتی شریف در ابتدای دهه ۱۳۵۰ وجود داشته است که نشان از دیرینگی آشنایی با این مفاهیم در نظام آموزشی کشور دارد. با این حال، آنچه امروزه هوش مصنوعی را برجسته ساخته، پیوند راهبردی آن با داده‌های کلان و پردازنده‌های توانمند است؛ نقشی که از کاربرد صرفا مکانیکی برای محاسبات دقیق در گذشته، و سپس ابزار بازیابی اطلاعات در دهه اخیر، اکنون به «همکار شناختی» در ترکیب، تحلیل و استنتاج ارتقا یافته است. این تغییر پارادایمی، که خود مفهوم تولید دانش را بازتعریف می‌کند، توأم با هشدار معرفت‌شناختی مهمی است: هوش مصنوعی در مبنا بی‌طرف نیست و در نبود چارچوب‌های اخلاقی شفاف، شتاب پژوهش می‌تواند اصالت و دقت علمی را فدای سرعت کند.

• از نظر اعتماد علمی، شش اصل بنیادین یکپارچگی در عصر هوش مصنوعی وجود دارد:

۱. شفافیت: افشای دقیق نحوه و گستره استفاده از هوش مصنوعی در متدولوژی.

۲. پاسخگویی: مسئولیت‌پذیری نهایی انسان در قبال صحت تمامی خروجی‌ها.

۳. انصاف: شناسایی و کاهش سوگیری‌های پنهان در داده‌های آموزشی مدل‌ها.

۴. یکپارچگی نویسندگی: حفظ مرزهای مالکیت فکری و عدم انتساب نویسندگی به ماشین.

۵. حریم خصوصی: عدم بارگذاری داده‌های حساس و منتشرنشده در مدل‌های عمومی.

۶. اصالت: تضمین اینکه هسته مرکزی نوآوری، حاصل تفکر انسانی است.

از این رو در بحث مالکیت فکری، باید گفت که هوش مصنوعی نمی‌تواند به عنوان یکی از نویسندگان همکار باشد، زیرا فاقد ظرفیت حقوقی برای پذیرش مسئولیت اخلاقی و علمی است. بر اساس قوانین COPE و ICMJE تولیدات هوش مصنوعی (حتی تصاویر) نمی‌توانند بدون نظارت و تایید انسانی به عنوان محتوای اصیل منتشر شوند. محقق باید تمام ادعاها، استنادها و منطق تولیدشده توسط ماشین را راستی‌آزمایی کند.

• چالش‌های به کارگیری هوش مصنوعی در پژوهش:
• توهم (Hallucination)

توهم در هوش مصنوعی زمانی رخ می‌دهد که یک مدل زبانی بزرگ اطلاعاتی را تولید می‌کند که از نظر دستوری و ساختاری کاملاً صحیح و متقاعدکننده به نظر می‌رسند، اما از نظر واقعیت یا منطق کاملاً غلط، بی‌معنی یا ساختگی هستند. به زبان ساده هوش مصنوعی با اعتماد به نفسِ کامل، «دروغ» می‌گوید یا به‌تعبیر بهتر اطلاعاتی را «از خودش اختراع می‌کند». مدل‌های زبانی بر اساس احتمالات آماری کلمه بعدی را پیش‌بینی می‌کنند نه بر اساس درک حقیقت. «توهم» هوش مصنوعی یک نقص فنی موقت نیست، بلکه پیامد ذاتی روش تولید متن است. خروجی مدل، تنها متنی محتمل است، نه لزوما واقعیت علمی.

هوش مصنوعی دو تحول پارادیمی داشته است: (1) نمادین: تا دو دهه پیش هوش مصنوعی بر اساس الگوریتم‌های انسانی عمل می‌کرد. داده‌ها محدود و نتایج قابل کنترل بود. تا اینکه دوره «زمستان هوش مصنوعی» رخ داد و پارادایم دیگری غلبه پیدا کرد. (2) پارادایم فرا نمادین که مبتنی بر یادگیری ماشین است. یعنی به جای اینکه الگوریتم‌ها و ورودی‌ها از جانب انسان باشد ماشین خودش در مجموعه‌ای از متون جست‌وجو کرده و بر اساس آن جواب می‌دهد. جهش در این پارادایم زمانی رخ داد که امکان استفاده از داده‌های کلان به وجود آمد. از این رو است که شاید بد نباشد به جای اصطلاح هوش مصنوعی «مولد» از واژه «بافنده» استفاده کنیم. منطق اینگونه است که در هوش مصنوعی مولد هر کلمه تبدیل به بُردار می‌شود وقتی سوالی از آن می‌پرسیم از میان بردارها می‌سنجد که بر اساس داده‌های پیشین، محتمل‌ترین پاسخ چه می‌تواند باشد.

باید توجه کرد که «توهم» با پیشرفته‌تر شدن هوش مصنوعی صفر نمی‌شود. اصطلاح «طوطی تصادفی» (Stochastic Parrot) در حوزه هوش مصنوعی، به این نکته اشاره دارد که مدل‌های زبانی بزرگ در واقع معنا و مفاهیم را درک نمی‌کنند، بلکه صرفاً «طوطی‌وار» با استفاده از احتمالات آماری، کلمات را کنار هم می‌چینند تا متنی تولید کنند که برای انسان قانع‌کننده به نظر برسد، بدون اینکه درک واقعی از جهان یا محتوایی که تولید می‌کنند داشته باشند.

در پرامپت حتما بخواهیم که جواب را بدون توهم تحلیل کند.

• سوگیری پنهان و تقلیل‌گرایی بافتاری

هوش مصنوعی می‌تواند تعصبات تاریخی موجود در داده‌های آموزشی خود را بازتولید کرده و به نتایج تحقیق شما منتقل کند. سیستم‌های فعلی تمایل به نادیده گرفتن ظرافت‌های محلی، زبانی و فرهنگی دارند از این رو خطر یکسان‌سازی فرهنگی وجود دارد. به همین دلیل به پژوهشگران توصیه می‌شود نتایج را همواره با چارچوب‌های فرهنگی و بومی تحقیق خود تطبیق دهند. مثلا در هوش مصنوعی «سونو»[1] برای ساخت آهنگ، غلبه با داده‌های موسیقی بالیوودی است از این رو آهنگ‌ها و لهجه‌ها به موسیقی و زبان هندی نزدیک است. سوگیری در مسئله گرته‌برداری و تغییر زبان نقش مهمی دارد.

• زباله هوش مصنوعی (AI Slop)

اصطلاح «AI Slop» یکی از مفاهیم نوظهور در فرهنگ اینترنت و نقد هوش مصنوعی است که به محتوای بی‌کیفیت، غیراصیل و انبوه تولیدشده توسط هوش مصنوعی اشاره دارد. واژه Slop در انگلیسی به معنای «پس‌مانده غذایی» یا خوراک بی‌کیفیت و ناخوشایندی است که برای حیوانات (مثل خوک‌ها) می‌ریزند. در دنیای دیجیتال، وقتی می‌گوییم یک محتوا «AI Slop» است، یعنی این محتوا فاقد ارزش هنری یا اطلاعاتی است و صرفاً برای پر کردن فضای اینترنت، دریافت کلیک یا درآمدزایی سریع (و معمولاً توسط بات‌ها) تولید شده است.

AI Slop محتوایی است که عمدتا با هوش مصنوعی و با مراقبت انسانی بسیار کم یا صفر تولید می‌شود، در نتیجه دقت، انسجام و ارزش اطلاعاتی آن پایین است. نکته اینکه مسئله اصلی فقط «کیفیت» نیست، بلکه فقدان مراقبت و مسئولیت انسانی در تولید و راستی‌آزمایی محتواست.

نشانه‎های تشخیص محتوای تولیدشده توسط هوش مصنوعی:

• در صدا: یکنواختی غیرطبیعی ریتم و طیف صوتی.
• در تصویر: خطاهای زمانی، ناهماهنگی لب و تصویر، خطاهای آناتومیک.
• در محتوا: اطلاعات نادرست، کلیشه‌های زبانی، فقدان منابع، افعال تکراری، نشانه‌گذاری اغراق‌آمیز

پیامد این محتواها، کاهش اعتماد عمومی به پژوهش‌ها، خستگی شناختی مخاطب و آلودگی آرشیوهای علمی که حتی می‌تواند به افت کیفیت آموزش مدل‌های آینده هوش مصنوعی منجر شود.

• مفهوم «حافظه کاری» (Working Memory)

هوش مصنوعی «حافظه بلندمدت» واقعی (به معنای ذخیره‌ی دائمی هر کلمه که به آن می‌گویید در سلول‌های مغزی‌اش) ندارد. وقتی شما با یک مدل در حال گفت‌وگو هستید، مدل برای اینکه به جمله‌ پنجم شما پاسخ مناسب دهد، باید به جملات اول، دوم و سوم نگاه کند. این «نگاه کردن به جملات قبلی» همان حافظه کاری است. ویژگی‌های حافظه کاری در مدل‌ها:

• محدودیت ظرفیت: هر مدل یک ظرفیت مشخص دارد (مثلاً ۸ هزار، ۳۲ هزار یا حتی ۱ میلیون توکن). اگر مکالمه شما طولانی‌تر از این ظرفیت شود، مدل جزئیات ابتدای گفت‌وگو را نمی‌بیند و به تعبیری شروع به «فراموش کردن» ابتدای صحبت‌ها می‌کند.
• نقش در درک متن: بدون حافظه کاری، هوش مصنوعی نمی‌تواند به ضمایر اشاره (مثل او، آن، آن‌ها) معنا بدهد. مثلاً اگر بگویید «علی به مدرسه رفت و او کتاب خرید»، مدل باید از حافظه کاری خود استفاده کند تا بفهمد او به علی اشاره دارد.

در انسان حافظه کاری بسیار منعطف است و ما می‌توانیم با تمرکز، اطلاعات را فشرده یا سازماندهی کنیم. در هوش مصنوعی فعلی، پردازش اطلاعات در حافظه کاری بسیار هزینه‌بر (از نظر محاسباتی) است. اگر احساس کردید هوش مصنوعی در وسط یک مکالمه طولانی، موضوع اصلی را فراموش کرده یا دچار توهم شده است، در واقع او با مشکل در حافظه کاری مواجه شده است؛ یعنی اطلاعات قبلی از محدوده پردازش فعال او خارج شده‌اند.

• اصطلاح «کارآموز متوهم»

با تاسی از کتاب فوتوژورنالیسم انتقادی، اصطلاح «کارآموز متوهم» برای هوش مصنوعی بهتر از تعابیری مانند همکار یا دستیار است. این اصطلاح از ترکیب دو مفهوم کلیدی ناشی می‌شود:

1. Hallucination (توهم در هوش مصنوعی): همانطور که گفته شد این به معنای تولید اطلاعات نادرست، بی‌ربط یا ساختگی توسط هوش مصنوعی است، در حالی که با اطمینان و لحنی متقاعدکننده آن را بیان می‌کند.
2. Intern (کارآموز): در دنیای واقعی، کارآموزان معمولاً افرادی تازه‌کار، کم‌تجربه و در حال یادگیری هستند. آن‌ها ممکن است اشتباه کنند، اطلاعات ناقصی داشته باشند یا گاهی تصورات اشتباهی از موقعیت داشته باشند.

پس «کارآموز متوهم» به چه معناست؟ این اصطلاح به سیستمی اشاره دارد که مانند یک کارآموز، هنوز در حال یادگیری و توسعه است؛ قابلیت‌های آن کامل نیست و ممکن است مرتکب اشتباه شود؛ و مانند یک فرد متوهم، اطلاعات نادرست را با قاطعیت بیان می‌کند؛ این توهم باعث می‌شود که کاربران (به خصوص کاربران ناآشنا) حرف‌های آن را باور کنند، در حالی که آن اطلاعات صحیح نیست.

• استعاره اسب و گاری در پژوهش

استعاره «اسب و گاری» (Horse-Cart Metaphor) یکی از پرکاربردترین استعاره‌ها در متدولوژی پژوهش و فلسفه علم است. این استعاره برای تبیین رابطه بین داده‌ها و مشاهدات تجربی و نظریه، مدل یا فرضیه به کار می‌رود. اما نکته‌ اصلی در این است که این دو عنصر چگونه با هم تعامل می‌کنند. اگر اسب (داده‌ها) به دلیل نویز، خطا یا سوگیری  به مسیر اشتباهی برود، گاری (نظریه) هم بدون اعتراض به همان مسیر غلط می‌رود. این همان جایی است که نظریه ممکن است فقط توصیفی باشد و قدرت پیش‌بینی یا تبیین عمیق نداشته باشد. اگر گاری (نظریه) خیلی سخت‌گیر باشد، ممکن است اسب (داده‌ها) را مجبور به دیدن چیزهایی کند که واقعاً وجود ندارند یا سوگیری تأییدی (Confirmation Bias). یعنی شما فقط دنبال داده‌هایی می‌گردید که نظریه‌تان را تایید کنند. پژوهشگران موفق سعی می‌کنند رابطه‌ای ایجاد کنند که در آن اسب و گاری با هم هماهنگ باشند نه اینکه یکی بر دیگری غلبه کند. یک پژوهش ایده‌آل، مسیری است که در آن نظریه (گاری) به شما جهت و معنا می‌دهد، اما داده‌ها (اسب) اجازه دارند هر جا که واقعیتِ موجود با پیش‌فرض‌های شما تفاوت داشت، مسیر را تغییر دهند. در واقع، نظریه باید بتواند اسب را هدایت کند، اما اسب باید بتواند نظریه را از اشتباه نجات دهد.

• نظارت انسانی در حلقه (Human-in-the-Loop)

اصطلاح «نظارت انسانی در حلقه» (HITL) یکی از استراتژی‌ها در طراحی، آموزش و مدیریت سیستم‌های هوش مصنوعی است. فرآیندی که در آن هوش مصنوعی به تنهایی تصمیم نمی‌گیرد، بلکه در مراحل مختلف (آموزش، اجرا و اصلاح) با دخالت و نظارت مستقیم انسان همراه است تا دقت، اخلاق و منطق سیستم تضمین شود.

تحلیل خودکار بدون نظارت انسان، منجر به خطاهای تفسیری خطرناک می‌شود مثل تفسیر اشتباه طعنه در تحلیل احساسات. قدرت مداخله واقعی برای توقف یا اصلاح سیستم، درک محدودیت‌ها و خطاهای ذاتی ابزار، مقاومت در برابر اعتماد کورکورانه (سوگیری اتوماسیون)، و مسئولیت‌پذیری اخلاقی برای تصحیح خروجی از جمله موارد نظارت انسانی در پردازش هوش مصنوعی هستند.

• معماری تقسیم کار: در پژوهش چه چیزی را به هوش مصنوعی برون‌سپاری کنیم؟

قلمرو ماشین (بهینه‌سازی و مقیاس‌پذیری): خلاصه‌سازی و استخراج الگو از حجم انبوه داده؛ تحلیل تطبیقی اولیه و دسته‌بندی مقالات؛ پردازش زبان طبیعی و ویرایش ساختاری متون.

قلمرو انحصاری انسان: استدلال اخلاقی و قضاوت ارزشی؛ درک ظرافت‌های بافتی و فرهنگی؛ سنتز اصیل و تولید تئوری؛ اصالت‌سنجی نهایی خروجی‌ها.

چک لیست یکپارچگی: ادغام مسئولانه پیش از انتشار

پیش از نهایی کردن مقاله، این سوالات را از خود بپرسید:

• شفافیت ابزار: آیا در بخش متدولوژی، نام و نسخه هوش مصنوعی و نحوه استفاده از آن صراحتا ذکر شده است؟
• راستی‌آزمایی استنادات: آیا تمامی مراجع و ارجاعات تولیدشده با منابع اصلی تطبیق داده شده‌اند؟
• حفظ حریم خصوصی: آیا اطمینان دارم که هیچ داده خام و منتشرنشده‌ای را در مدل‌های ناامن آپلود نکرده‌ام؟
• اصالت‌سنجی ایده‌ها: آیا استدلال‌های کلیدی و نتیجه‌گیری نهایی، کاملا حاصل تحلیل شخصی من است؟

طلوع پژوهشگر هیبریدی: پژوهشگر موفق فردا کسی نیست که هوش مصنوعی را نادیده می‌گیرد؛ و کسی هم نیست که تفکر انتقادی را به آن برون‌سپاری می‌کند. هوش مصنوعی ابزاری برای تفکر کمتر نیست، بلکه شبکه‌ای شناختی برای رسیدن به سنتزهای عمیق‎‌تر است. هوش مصنوعی به فرآیند پژوهش شتاب می‎بخشد، اما همچنان این انسان است که حقیقت را کشف، تفسیر و تضمین می‎کند.