arXiv آرکایو، از مهم ترین مخازن مقالات پیش چاپ است. اغلب نسخه های پیش چاپ مقالات جهان در آرکایو موجود است و از بزرگ ترین پایگاه های علمی دنیا محسوب می شود. مقاله ای با عنوان What are the most influential current AI Papers به بررسی پر استنادترین مقاله آرکایو در نیمه اول 2023 پرداخته است.
سرعت سریع اطلاعات در حوزه موضوعی هوش مصنوعی، به خصوص پردازش زبان طبیعی و یادگیری ماشین، چالش مهمی برای محققان حوزه پزشکی و کامپیوتر، برای همگام شدن با آخرین پیشرفت‌ها ایجاد کرده است.
برای حل این مشکل، محققان دانشگاه بیله‌فلد به شناسایی محبوب‌ترین مقالات در arXiv، در حوزه های موضوعی پردازش زبان طبیعی NLP و یادگیری ماشین ML پرداختند. لیستی از 40 مقاله محبوب آرکایو بر اساس تعداد استنادات نرمال شده در نیمه ی اول 2023 ارائه شد.
سلطه مقالات مربوط به مدل‌های بزرگ زبان (LLM) و به‌ویژه ChatGPT در نیمه اول سال 2023 مشاهده شده است. علاوه بر این، مقالات مرتبط با پردازش زبان طبیعی (نزدیک به 60 درصد از مقالات) بیشترین تاثیر را داشته اند. مهم ترین موضوعات مقالات پر استناد آرکایو عبارتند از: کارایی مدل های زبانی بزرگ LLM، تکنیک های ارزیابی، ملاحظات اخلاقی، عوامل تجسم یافته، و حل مسئله باLLM [1]
شکل 1، کلمات کلیدی به کار رفته در چهل مقاله برتر آرکایو در نیمه اول 2023 را نشان می دهد. بر این اساس، trillion token, 175b, large scale و large language model ، پرتکرارترین کلمات کلیدی به کاررفته در چهل مقاله برتر آرکایو هستند.
شکل 1. کلمات کلیدی به کار رفته در چهل مقاله برتر آرکایو در نیمه اول 2023
لیست مقالات برتر آرکایو در نیمه اول 2023
منبع:
Eger, S., Leiter, C., Belouadi, J., Zhang, R., Kostikova, A., Larionov, D., ... & Fresen, V. (2023). NLLG Quarterly arXiv Report 06/23: What are the most influential current AI Papers?. arXiv preprint arXiv:2308.04889.
[1] LLM efficiency, evaluation techniques, ethical considerations, embodied agents, and problem-solving with LLMs.