বড় ভাষার মডেলগুলির জন্য নিউবায়োলজিকভাবে অনুপ্রাণিত দীর্ঘমেয়াদী মেমরি

হিপ্পোর্যাগ শিরোনামে কাগজের একটি পিডিএফ দেখুন: বার্নাল জিম \ ‘এঞ্জেজ গুটি \’ এরেজ এবং অন্যান্য 4 জন লেখক দ্বারা নিউরোবায়োলজিক্যালি অনুপ্রাণিত দীর্ঘমেয়াদী মেমরি

পিডিএফ এইচটিএমএল দেখুন (পরীক্ষামূলক)

বিমূর্ত:প্রতিকূল এবং সর্বদা পরিবর্তিত প্রাকৃতিক পরিবেশে সাফল্য অর্জনের জন্য, স্তন্যপায়ী মস্তিষ্ক বিশ্ব সম্পর্কে প্রচুর পরিমাণে জ্ঞান সঞ্চয় করতে এবং বিপর্যয়কর ভুলে যাওয়া এড়ানোর সময় ক্রমাগত নতুন তথ্য সংহত করার জন্য বিকশিত হয়েছিল। চিত্তাকর্ষক সাফল্য সত্ত্বেও, বৃহত্তর ভাষার মডেলগুলি (এলএলএম), এমনকি পুনরুদ্ধার-আগত প্রজন্মের (আরএজি) সহ, এখনও প্রাক-প্রশিক্ষণের পরে দক্ষতার সাথে এবং কার্যকরভাবে নতুন অভিজ্ঞতাগুলিকে সংহত করার জন্য সংগ্রাম করে। এই কাজে, আমরা হিপ্পোরাগ, নতুন অভিজ্ঞতার চেয়ে গভীর এবং আরও দক্ষ জ্ঞানের সংহতকরণ সক্ষম করতে মানব দীর্ঘমেয়াদী মেমরির হিপ্পোক্যাম্পাল ইনডেক্সিং তত্ত্ব দ্বারা অনুপ্রাণিত একটি অভিনব পুনরুদ্ধার কাঠামো প্রবর্তন করি। হিপ্পোরাগ সিনারজিস্টিকভাবে এলএলএম, জ্ঞান গ্রাফ এবং ব্যক্তিগতকৃত পেজর্যাঙ্ক অ্যালগরিদমকে মানব স্মৃতিতে নিউওরটেক্স এবং হিপ্পোক্যাম্পাসের বিভিন্ন ভূমিকা নকল করতে অর্কেস্ট্রেট করে। আমরা মাল্টি-হপ প্রশ্নের উত্তর দেওয়ার ক্ষেত্রে বিদ্যমান আরএজি পদ্ধতির সাথে হিপ্পোরাগের তুলনা করি এবং দেখাই যে আমাদের পদ্ধতিটি অত্যাধুনিক পদ্ধতিগুলিকে উল্লেখযোগ্যভাবে 20%পর্যন্ত ছাড়িয়ে যায়। হিপ্পোরাগের সাথে একক-পদক্ষেপের পুনরুদ্ধারটি আইআরকোটের মতো পুনরাবৃত্ত পুনরুদ্ধারের তুলনায় তুলনামূলক বা আরও ভাল পারফরম্যান্স অর্জন করে যখন 10-30 গুণ কম এবং 6-13 গুণ দ্রুত এবং হিপ্পোরাগকে আইআরকোটে সংহত করা আরও যথেষ্ট লাভ নিয়ে আসে। পরিশেষে, আমরা দেখাই যে আমাদের পদ্ধতিটি নতুন ধরণের পরিস্থিতিগুলি মোকাবেলা করতে পারে যা বিদ্যমান পদ্ধতির নাগালের বাইরে। কোড এবং ডেটা উপলব্ধ এই https url।