গুগল এআই-তে একটি বিপজ্জনক ইউ-টার্ন করেছে

গুগলের “খারাপ হবে না” যুগ ভাল এবং সত্যই মারা গেছে। “ডু দ্য রাইট থিং” নরমের সাথে 2018 সালে সেই মূলমন্ত্রটি প্রতিস্থাপন করে, প্যারেন্ট কোম্পানির বর্ণমালার নেতৃত্ব এখন সামরিক বাহিনীর কৃত্রিম বুদ্ধিমত্তার ব্যবহার সম্পর্কে ফার্মের অন্যতম গুরুত্বপূর্ণ নৈতিক অবস্থানকে পিছনে ফেলেছে।

এই সপ্তাহে, সংস্থাটি অস্ত্র বা নজরদারি করার জন্য এআই ব্যবহার না করার প্রতিশ্রুতি মুছে দিয়েছে, এটি একটি প্রতিশ্রুতি যা 2018 সাল থেকে ছিল। এর “দায়বদ্ধ এআই” নীতিগুলিতে আর প্রতিশ্রুতি অন্তর্ভুক্ত নেই, এবং সংস্থার এআই প্রধান ডেমিস হাসাবিস একটি প্রকাশ করেছেন ব্লগ পোস্ট পরিবর্তনটি ব্যাখ্যা করে, এটিকে কোনও ধরণের আপস না করে অনিবার্য অগ্রগতি হিসাবে তৈরি করে।

“এআই মোবাইল ফোনের মতোই বিস্তৃত হয়ে উঠছে,” হাসাবিস লিখেছেন। এটি “দ্রুত বিকশিত হয়েছে”।

তবুও এই ধারণাটি যে নৈতিক নীতিগুলি অবশ্যই বাজারের সাথে “বিকশিত” করতে হবে তা ভুল। হ্যাঁ, আমরা ক্রমবর্ধমান জটিল ভূ -রাজনৈতিক প্রাকৃতিক দৃশ্যে বাস করছি, যেমন হাসাবিস এটি বর্ণনা করেছেন, তবে যুদ্ধের জন্য নীতিশাস্ত্রের একটি কোড ত্যাগ করা নিয়ন্ত্রণের বাইরে চলে যাওয়া পরিণতি অর্জন করতে পারে।

যুদ্ধক্ষেত্রে এআই আনুন এবং আপনি কূটনীতির জন্য কোনও সময় না দিয়ে মেশিনের গতিতে একে অপরের প্রতিক্রিয়া জানাতে স্বয়ংক্রিয় সিস্টেমগুলি পেতে পারেন। মানুষের হস্তক্ষেপের সময় হওয়ার আগে দ্বন্দ্বগুলি আরও বেড়ে যাওয়ার সাথে সাথে যুদ্ধ আরও মারাত্মক হয়ে উঠতে পারে। এবং “পরিষ্কার” স্বয়ংক্রিয় লড়াইয়ের ধারণাটি আরও সামরিক নেতাদের কর্মের দিকে বাধ্য করতে পারে, যদিও এআই সিস্টেমগুলি প্রচুর ভুল করে এবং বেসামরিক হতাহতের ঘটনাও তৈরি করতে পারে।

স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণ এখানে আসল সমস্যা। পূর্ববর্তী প্রযুক্তির বিপরীতে যা সামরিক বাহিনীকে আরও দক্ষ বা শক্তিশালী করে তুলেছে, এআই সিস্টেমগুলি মৌলিকভাবে পরিবর্তন করতে পারে কে (বা কী) মানবজীবন নেওয়ার সিদ্ধান্ত নেয়।

তীব্র চাপ

এটিও উদ্বেগজনক যে সমস্ত লোকের মধ্যে হাসাবিসের গুগলের সাবধানে শব্দযুক্ত ন্যায়সঙ্গততার নাম রয়েছে। তিনি 2018 সালে ফিরে একটি বিস্তৃত টিউন গেয়েছিলেন, যখন সংস্থাটি তার এআই নীতিগুলি প্রতিষ্ঠা করেছিল এবং স্বায়ত্তশাসিত অস্ত্রগুলিতে কাজ না করার প্রতিশ্রুতিতে তাদের নাম রাখার জন্য এআইয়ের 2 400 জনেরও বেশি লোকের সাথে যোগ দেয়।

এক দশকেরও কম পরে, সেই প্রতিশ্রুতি খুব বেশি গণনা করা হয়নি। গুগলের নীতি দলের প্রাক্তন সদস্য এবং নীতি ও যোগাযোগ সংস্থা, কর্মী সংস্থার সহ-প্রতিষ্ঠাতা উইলিয়াম ফিৎসগেরাল্ড বলেছেন যে গুগল সামরিক চুক্তি বাছাইয়ের জন্য বছরের পর বছর ধরে তীব্র চাপে ছিল।

তিনি মার্কিন ডেপুটি প্রতিরক্ষা সচিব প্যাট্রিক শানাহানকে ২০১ 2017 সালে গুগলের ক্লাউড ব্যবসায়ের ক্যালিফোর্নিয়ার সদর দফতরের সানিওয়ালে পরিদর্শন করার কথা স্মরণ করেছিলেন, যখন ইউনিটের কর্মীরা পেন্টাগনের সাথে শীর্ষ গোপনীয় সামরিক প্রকল্পগুলিতে কাজ করার জন্য প্রয়োজনীয় অবকাঠামো তৈরি করছেন। চুক্তির আশা শক্তিশালী ছিল।

পড়ুন: গুগল ‘কবর’ ইইউ ত্রুটিগুলির উপর দিয়ে রেগে গেছে কারণ এটি € 4.3-বিলিয়ন জরিমানা লড়াই করছে

ফিটজগারেল্ড এটি থামাতে সহায়তা করেছিল। তিনি প্রজেক্ট ম্যাভেনকে নিয়ে সহ-সংগঠিত কোম্পানির বিক্ষোভ করেছেন, গুগল ড্রোন ফুটেজ বিশ্লেষণের জন্য এআই বিকাশের জন্য প্রতিরক্ষা বিভাগের সাথে একটি চুক্তি করেছিলেন, যা গুগলাররা আশঙ্কা করেছিলেন যে স্বয়ংক্রিয় লক্ষ্যবস্তু হতে পারে। প্রায় ৪,০০০ কর্মচারী একটি আবেদনে স্বাক্ষর করেছেন যাতে বলা হয়েছে, “গুগল যুদ্ধের ব্যবসায় থাকা উচিত নয়”, এবং প্রায় এক ডজন প্রতিবাদে পদত্যাগ করেছেন। গুগল অবশেষে পুনরায় স্থান পেয়েছে এবং চুক্তিটি পুনর্নবীকরণ করেনি। পিছনে ফিরে তাকান, ফিটজগারেল্ড এটিকে একটি ব্লিপ হিসাবে দেখেন। “এটি সিলিকন ভ্যালির ট্র্যাজেক্টোরিতে একটি অসঙ্গতি ছিল,” তিনি বলেছিলেন।

তার পর থেকে ওপেনএআই প্রতিরক্ষা ঠিকাদার অ্যান্ডুরিল ইন্ডাস্ট্রিজের সাথে অংশীদারিত্ব করেছে এবং মার্কিন সামরিক বাহিনীর কাছে এর পণ্যগুলি পিচ করছে। (মাত্র গত বছর, ওপেনাই কাউকে “অস্ত্র বিকাশের” জন্য তার মডেলগুলি ব্যবহার করতে নিষেধ করেছিল)) নৃতাত্ত্বিক, যা নিজেকে সুরক্ষা-প্রথম এআই ল্যাব হিসাবে বিল দেয়, 2024 সালের নভেম্বরে পলান্টির টেকনোলজিসের সাথে অংশীদারিত্ব করেছিল প্রতিরক্ষা ঠিকাদারদের কাছে এআই পরিষেবা ক্লড বিক্রি করতে ।

গুগল নিজেই তার কাজের জন্য যথাযথ তদারকি তৈরি করতে লড়াই করে কয়েক বছর অতিবাহিত করেছে। এটি 2019 সালে একটি বিতর্কিত নীতিশাস্ত্র বোর্ডকে দ্রবীভূত করেছে, তারপরে এক বছর পরে এর সবচেয়ে বিশিষ্ট এআই এথিক্স ডিরেক্টরদের দু’জনকে বরখাস্ত করেছে। সংস্থাটি তার মূল উদ্দেশ্যগুলি থেকে এখন পর্যন্ত বিপথগামী হয়েছে এটি তাদের আর দেখতে পারে না। সুতরাং, এর সিলিকন ভ্যালি সহকর্মীরাও রাখুন, যাকে কখনও নিজেকে নিয়ন্ত্রণ করার জন্য ছেড়ে দেওয়া উচিত ছিল না।

তবুও, যে কোনও ভাগ্যের সাথে, গুগলের ইউ-টার্নটি জাতিগত গতিশীলতা এবং রাজনৈতিক চাপ তাদের স্থাপন করা আরও কঠিন করে তোলার আগে সামরিক এআই উন্নয়নের জন্য আইনত বাধ্যতামূলক বিধি তৈরি করতে আগামী সপ্তাহে সরকারী নেতাদের উপর আরও বেশি চাপ সৃষ্টি করবে।

নিয়মগুলি সহজ হতে পারে। সমস্ত এআই সামরিক সিস্টেমের তদারকি করা একটি মানবকে বাধ্যতামূলক করে তুলুন। কোনও সম্পূর্ণ স্বায়ত্তশাসিত অস্ত্র নিষিদ্ধ করুন যা প্রথমে কোনও অনুমোদন ছাড়াই লক্ষ্যগুলি নির্বাচন করতে পারে। এবং নিশ্চিত করুন যে এই জাতীয় এআই সিস্টেমগুলি নিরীক্ষণ করা যেতে পারে।

একটি যুক্তিসঙ্গত নীতি প্রস্তাবটি ফিউচার অফ লাইফ ইনস্টিটিউট থেকে এসেছে, এটি একসময় ইলন মাস্কের অর্থায়নে একটি থিংক-ট্যাঙ্ক এবং বর্তমানে ম্যাসাচুসেটস ইনস্টিটিউট অফ টেকনোলজির পদার্থবিদ ম্যাক্স টেগমার্ক দ্বারা চালিত। এটি একটি টায়ার্ড সিস্টেমের জন্য আহ্বান জানিয়েছে যার মাধ্যমে জাতীয় কর্তৃপক্ষগুলি পারমাণবিক সুবিধার মতো সামরিক এআই সিস্টেমের চিকিত্সা করে, তাদের সুরক্ষা মার্জিনের দ্ব্যর্থহীন প্রমাণের আহ্বান জানিয়েছে।

প্যারিসে আহ্বান করা সরকারগুলিকে আন্তর্জাতিক পারমাণবিক শক্তি সংস্থার পারমাণবিক প্রযুক্তির তদারকির মতো সুরক্ষার মানগুলি কার্যকর করার জন্য একটি আন্তর্জাতিক সংস্থা প্রতিষ্ঠা করার বিষয়টিও বিবেচনা করা উচিত। তাদের সেই মানদণ্ডগুলি লঙ্ঘনকারী সংস্থাগুলি (এবং দেশগুলিতে) নিষেধাজ্ঞা আরোপ করতে সক্ষম হওয়া উচিত।

পড়ুন: গুগল বলছে এটি কোয়ান্টাম কম্পিউটিংয়ে একটি বড় চ্যালেঞ্জকে ক্র্যাক করেছে

গুগলের বিপর্যয় একটি সতর্কতা। এমনকি সবচেয়ে শক্তিশালী কর্পোরেট মানগুলি একটি অতি-গরম বাজার এবং এমন একটি প্রশাসনের চাপের মধ্যে ভেঙে যেতে পারে যা আপনি কেবল “না” বলেন না। স্ব-নিয়ন্ত্রণের দুর্যোগের যুগটি শেষ হয়েছে, তবে এআইয়ের অন্ধকার ঝুঁকি বন্ধ করার জন্য এখনও বাধ্যতামূলক নিয়মগুলি রাখার সুযোগ রয়েছে। এবং স্বয়ংক্রিয় যুদ্ধযুদ্ধ অবশ্যই তাদের মধ্যে একটি। – পারমি ওলসন, (সি) 2025 ব্লুমবার্গ এলপি

হোয়াটসঅ্যাপে টেকসেন্ট্রাল থেকে ব্রেকিং নিউজ পান। এখানে সাইন আপ করুন।

মিস করবেন না:

গুগল পাওয়ার এজেন্টদের কাছে দ্রুত জেমিনি এআই মডেলটি রোল আউট করে