Mozilla Internet Ecosystem (MIECO) এর জাস্টিন টুনিকে বিশেষ ধন্যবাদ, যিনি এই ব্লগ পোস্টটির সহ-লেখক।
আজ আমরা প্রথম রিলিজ ঘোষণা করছি লামাফাইল এবং এই নতুন প্রকল্পে অংশগ্রহণের জন্য ওপেন সোর্স সম্প্রদায়কে আমন্ত্রণ জানাচ্ছে৷
llamafile আপনাকে বড় ভাষা মডেল (LLM) ওজনকে এক্সিকিউটেবলে পরিণত করতে দেয়।
বলুন আপনার কাছে 4GB ফাইলের আকারে LLM ওজনের একটি সেট আছে (সাধারণত ব্যবহৃত GGUF ফর্ম্যাটে)। লামাফাইলের সাহায্যে আপনি সেই 4GB ফাইলটিকে একটি বাইনারিতে রূপান্তর করতে পারেন যা ইনস্টল করার প্রয়োজন ছাড়াই ছয়টি ওএসে চলে।
এটি LLM বিতরণ এবং চালানো নাটকীয়ভাবে সহজ করে তোলে। এর মানে হল যে মডেল এবং তাদের ওজনের ফর্ম্যাটগুলি সময়ের সাথে সাথে বিকশিত হতে থাকে, লামাফাইল আপনাকে নিশ্চিত করার একটি উপায় দেয় যে নির্দিষ্ট ওজনের একটি সেট ব্যবহারযোগ্য থাকবে এবং চিরকালের জন্য ধারাবাহিকভাবে এবং পুনরুত্পাদনযোগ্যভাবে কাজ করবে।
আমরা দুটি প্রকল্পকে একত্রিত করে এই সব অর্জন করেছি যা আমরা পছন্দ করি: call.cpp (একটি নেতৃস্থানীয় ওপেন সোর্স এলএলএম চ্যাটবট ফ্রেমওয়ার্ক) এর সাথে কসমোপলিটান লিবিসি (একটি ওপেন সোর্স প্রজেক্ট যা C প্রোগ্রামগুলিকে কম্পাইল করতে এবং প্রচুর সংখ্যক প্ল্যাটফর্ম এবং আর্কিটেকচারে চালানোর জন্য সক্ষম করে)। এটির সাথে সাথে বেশ কিছু আকর্ষণীয় এবং সরস সমস্যা সমাধানেরও প্রয়োজন ছিল, যেমন কসমোপলিটানে GPU এবং dlopen() সমর্থন যোগ করা; আপনি এটি সম্পর্কে আরও পড়তে পারেন প্রকল্পের README.
llamafile-এর এই প্রথম রিলিজটি Mozilla-এর উদ্ভাবন গোষ্ঠীর একটি পণ্য এবং এটি তৈরি করেছে জাস্টিন টুনিকসমোপলিটানের স্রষ্টা। জাস্টিন সম্প্রতি Mozilla এর মাধ্যমে সহযোগিতা করছেন MIECOএবং সেই প্রোগ্রামের মাধ্যমে মজিলা তার কাজের জন্য অর্থায়ন করেছে 3.0 রিলিজ (হ্যাকার সংবাদ আলোচনা) কসমোপলিটানের। লামাফাইলের সাথে, জাস্টিন Mozilla প্রকল্পগুলিতে আরও সরাসরি অবদান রাখতে পেরে উত্তেজিত, এবং আমরা তাকে জড়িত করতে পেরে খুশি।
llamafile Apache 2.0 লাইসেন্সপ্রাপ্ত, এবং আমরা অবদানকে উৎসাহিত করি। llama.cpp-এ আমাদের পরিবর্তনগুলি নিজেই লাইসেন্সপ্রাপ্ত MIT (একই লাইসেন্স যা llama.cpp নিজেই ব্যবহার করে) যাতে ভবিষ্যতে যেকোন সম্ভাব্য আপস্ট্রিমিং সহজতর হয়। আমরা সবাই এখানে llama.cpp এর বড় ভক্ত; llamafile এটা এবং Cosmopolitan ছাড়া সম্ভব হত না।
আমরা আশা করি llamafile আপনার জন্য দরকারী এবং দেখুন আপনার প্রতিক্রিয়া এগিয়ে.
স্টিফেন মোজিলা বিল্ডার্সে ওপেন সোর্স এআই প্রকল্পের (লামাফাইল সহ) নেতৃত্ব দেন। তিনি আগে সামাজিক বুকমার্কিং অগ্রগামী del.icio.us পরিচালনা করেছিলেন; সহ-প্রতিষ্ঠিত স্টোরিয়াম, ব্লকবোর্ড এবং ফেয়ারস্পিন; এবং Yahoo অনুসন্ধান এবং BEA WebLogic-এ কাজ করেছে।
