برگزاری نخستین کنفرانس علمی جهان با نویسندگان و داوران تماما هوش مصنوعی!
بلک بلاگ: هفته آتی برای نخستین بار در علوم کامپیوتر شاهد برگزاری یک کنفرانس علمی خواهیم بود که در آن تمام مقالات و تمام بررسی ها توسط ماشین ها تولید شده اند.
به گزارش بلک بلاگ به نقل از ایسنا، در رویدادی با نام Agents4Science 2025 که مقرر است در روز 22 اکتبر به شکل آنلاین برگزار شود، مقالات ارسالی که توسط خود عوامل هوش مصنوعی یا توسط انسان هایی که آزمایش ها را انجام داده اند نوشته شده است، ارایه می شود و شرکت کنندگان این رویداد انسان ها خواهند بود.
به نقل از نیچر، جیمز زو، محقق هوش مصنوعی در دانشگاه استنفورد در کالیفرنیا که از برگزارکنندگان این رویداد است، می گوید: این کنفرانس یک محیط نسبتا امن را عرضه می کند که در آن می توانیم فرآیندهای مختلف ارسال و انواع مختلف فرآیندهای بررسی را آزمایش نماییم. زو می گوید این کنفرانس برای ثبت «تغییر الگو» در روش استفاده از هوش مصنوعی در علم که در طول سال قبل روی داده است، طراحی شده است. او می گوید پژوهشگران حال به جای استفاده از مدلهای زبان بزرگ یا سایر ابزارهایی که برای وظایف خاص طراحی شده اند، درحال ساخت گروههای هماهنگ از مدلها، معروف به عامل ها، هستند تا به عنوان دانشمندانی که در سرتاسر تلاش تحقیقاتی کار می کنند، عمل کنند.
مدلهای هوش مصنوعی اکنون برای تولید و بررسی تحقیقات استفاده می شوند، اما بیشتر ناشران و برگزارکنندگان کنفرانس، ماشین ها را از لیست شدن به عنوان نویسنده یا سخنران مقاله منع می کنند. زو می گوید: ما فکر کردیم که اوضاع را برعکس نماییم، جایی که هم نویسندگان و هم داوران باید هوش مصنوعی باشند. بااینکه انسان ها می توانند طبق راهنمای کنفرانس، مشاوره و بازخورد عرضه کنند، اما هوش مصنوعی باید مشارکت کننده اصلی، شبیه به نویسنده اول، باشد.
مارگارت میچل، دانشمند کامپیوتر، که در دانشگاه هاگینگ فیس در شهر نیویورک، اخلاق هوش مصنوعی را مطالعه می کند، می گوید: این کنفرانس توجه را به این واقعیت جلب می کند که کسانی از ما در دنیای هوش مصنوعی باید در درک نقاط قوت و ضعف استفاده از سیستم ها به این شیوه، کار بهتری انجام دهیم. این که چه طور عامل های هوش مصنوعی را ارزیابی نماییم، یک حوزه تحقیقاتی باز است. یک سوال کلیدی اینست که چطور میتوان فراوانی کشفیات «مثبت کاذب» بی فایده این مدل را درنظر گرفت، چیزی که می تواند سودمندی کلی آنرا تعدیل کند.
کلمنتین فوریه، محقق هوش مصنوعی و همین طور در هاگینگ فیس، می گوید: Agents4Science مزیت دیگری نیز دارد. امیدواریم کنفرانسی مانند این، بخشی از حجم زیاد هوش مصنوعی را برای کاهش بار داوری در جلسات دیگر کم کند.
بازرسان هوش مصنوعی
برگزارکنندگان کنفرانس، آثار ارسالی بیشتر از 300 عامل هوش مصنوعی را دریافت نمودند که از این شمار، 48 مورد بعد از ارزیابی توسط هیات داوران هوش مصنوعی پذیرفته شدند. زو می گوید این مقالات عمدتاً مطالعات محاسباتی به جای آزمایش های فیزیکی هستند و زمینه هایی از روانکاوی تا ریاضیات را پوشش می دهند. او امیدوار است که این کنفرانس داده هایی در مورد میزان مهارت دانشمندان هوش مصنوعی و انواع اشتباهاتی که مرتکب می شوند، تولید نماید. میچل می گوید چنین داده هایی می تواند برای اطلاع رسانی در مورد سیاستهای استفاده از هوش مصنوعی در تحقیقات استفاده گردد.
عامل های هوش مصنوعی که به حال خود رها شوند، هنوز مستعد خطا هستند. زو می گوید، مقالات ارسالی برای کنفرانس Agents4Science ملزم بودند که در هر مرحله از فرایند، تعامل بین محقق و عامل هوش مصنوعی را بیان کنند. این بدان معناست که میتوان ارزیابی کرد که میزان دخالت انسان چه طور بر کیفیت کار تاثیر می گذارد.
میزان مهارت هوش مصنوعی در بررسی نیز ارزیابی خواهد شد. برای انتخاب مقالات کنفرانس برای پذیرش، عوامل هوش مصنوعی دور اول بررسی را با بهره گیری از دستورالعمل ها و سیستم امتیازدهی ارایه شده به داوران در کنفرانس معتبر NeurIPS انجام دادند. سپس مقالات برتر بوسیله ی یک هیات مشاوره انسانی نیز ارزیابی شدند. زو می گوید، بررسی ها به شکل آزاد برای مطالعه در دسترس همه قرار خواهد گرفت و برگزارکنندگان همین طور بررسی های تولید شده توسط هوش مصنوعی را با بررسی های نوشته شده توسط انسان ها مقایسه خواهند کرد. او می افزاید: فکر می کنم این یک معیار مقایسه مفید نیز فراهم می آورد.
استفاده از مدلهای هوش مصنوعی به عنوان داور همتا برای مجلات یا کنفرانس ها موضوعی بحث برانگیز است. یک بررسی جدید از موسسه فیزیک بریتانیا نشان داد که ۵۷ درصد از پاسخ دهندگان اگر از هوش مصنوعی مولد برای نوشتن گزارش داوری همتا در مورد نسخه خطی که آنها در نوشتن آن مشارکت داشته اند، استفاده شود، ناراضی خواهند بود. داوران هوش مصنوعی طیف وسیعی از نقاط ضعف و لطمه پذیری ها را دارند. به عنوان نمونه، نشان داده شده است که بعضی از آنها از دستورالعمل های پنهانی برای نقد مثبت یک مقاله پیروی می کنند که احتیاج به اقدامات حفاظتی دارند. بعضی از پژوهشگران اعتقاد دارند که استفاده از هوش مصنوعی جهت بررسی مقالات می تواند به این مفهوم باشد که پژوهشگران تازه کار از یادگیری مهارت های حیاتی محروم می شوند.
اما زو و دیگران می گویند که حداقل در علوم کامپیوتر، نوعی بررسی هوش مصنوعی برای مواجهه با افزایش عظیم مقالات ارسالی به کنفرانس ها مورد نیاز است. ارسال مقالات به NeurIPS در پنج سال قبل بیشتر از دو برابر شده است، که بخشی از آن به سبب استفاده از مدلهای زبانی بزرگ است. زو پیشنهاد می دهد که عوامل هوش مصنوعی امکان دارد تیم های بررسی ترکیبی با انسان ها تشکیل دهند. او می گوید: چنین انفجاری در انتشارات وجود دارد، فکر می کنم مردم آغاز به تشخیص این مساله کرده اند که ما به کمک نیاز داریم.
مطالعات موجود نشان میدهد که مدلهای زبانی بزرگ دراین خصوص به خوبی انسان ها نیستند.
بطور خلاصه به نقل از نیچر، جیمز زو، محقق هوش مصنوعی در دانشگاه استنفورد در کالیفرنیا که از برگزارکنندگان این رویداد است، می گوید: این کنفرانس یک محیط نسبتا امن را عرضه می کند که در آن می توانیم فرآیندهای مختلف ارسال و انواع مختلف فرآیندهای بررسی را آزمایش نماییم. یک سوال کلیدی این است که چگونه میتوان فراوانی کشفیات مثبت کاذب بی فایده این مدل را در نظر گرفت، چیزی که می تواند سودمندی کلی آن را تعدیل کند. او می افزاید: فکر می کنم این یک معیار مقایسه مفید نیز فراهم می آورد.
منبع: blackblog.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب