ChatGPT সার্চ ইঞ্জিনের একটি উল্লেখযোগ্য ত্রুটি রয়েছে (ফটো: OpenAI)
OpenAI তার সার্চ প্রোডাক্ট সকল অনুমোদিত ব্যবহারকারীদের জন্য উপলব্ধ করেছে এবং ডিফল্ট সার্চ টুল হিসেবে এর ব্যবহারকে উৎসাহিত করেছে। কিন্তু সাংবাদিকরা দ্য গার্ডিয়ান নতুন সিস্টেমের সাথে সম্ভাব্য নিরাপত্তা সমস্যাগুলি আবিষ্কার করেছে যা আক্রমণকারীদের দ্বারা শোষিত হতে পারে।
চ্যাটজিপিটি পরীক্ষার সময়, একটি ক্যামেরা পণ্য পৃষ্ঠার মতো দেখতে একটি নকল ওয়েবসাইট URL প্রদান করা হয়েছিল। তারপর আড্ডায় জিজ্ঞেস করলেন এই ক্যামেরা কেনার যোগ্য কিনা। AI একটি ইতিবাচক কিন্তু ভারসাম্যপূর্ণ স্কোর দিয়েছে, এমন কিছু বৈশিষ্ট্য হাইলাইট করেছে যা মানুষ পছন্দ নাও করতে পারে। যাইহোক, যখন পৃষ্ঠাটিতে ChatGPT-কে ইতিবাচক প্রতিক্রিয়া ফেরত দেওয়ার নির্দেশ দিয়ে লুকানো পাঠ্য ছিল, এটি প্রকৃতপক্ষে একটি ইতিবাচক প্রতিক্রিয়া প্রদান করেছিল। এমনকি যখন পৃষ্ঠাটিতে গ্রাহকদের কাছ থেকে নেতিবাচক প্রতিক্রিয়া ছিল, তখনও চ্যাটবটটি লুকানো পাঠ্যের নির্দেশাবলী দ্বারা পরিচালিত হয়েছিল।
পৃষ্ঠাগুলিতে লুকানো পাঠ্য এবং নির্দেশাবলী সহ যা চ্যাটবট বিশ্লেষণ করে ক্ষতিকারক উদ্দেশ্যে ব্যবহার করা যেতে পারে। উদাহরণস্বরূপ, একই পৃষ্ঠায় নেতিবাচক পর্যালোচনা থাকা সত্ত্বেও ChatGPT একটি পণ্যের জন্য একটি ইতিবাচক রেটিং প্রদানের জন্য, বা এমনকি ওয়েবসাইটগুলি থেকে ব্যবহারকারীকে ক্ষতিকারক কোড প্রদান করতে।
গবেষকরা পরামর্শ দেন যে যদি ChatGPT সার্চ ইঞ্জিনটি তার বর্তমান অবস্থায় প্রকাশ করা হয়, তাহলে এই সার্চ ইঞ্জিন দুর্বলতা ব্যবহার করে ব্যবহারকারীদের প্রতারণা করার জন্য বিশেষভাবে কনফিগার করা ওয়েবসাইটগুলি তৈরি হওয়ার একটি উচ্চ ঝুঁকি রয়েছে।
সার্চ জায়ান্ট গুগল অনেক আগেই এই ধরনের সাইটগুলির বিরুদ্ধে লড়াই করার জন্য একটি কার্যকর উপায় খুঁজে পেয়েছে। লুকানো টেক্সট সার্চের ফলাফলে নিচের দিকে রেখে বা সার্চের ফলাফল থেকে সম্পূর্ণভাবে সরিয়ে দিয়ে শাস্তি দেওয়া হয়েছিল। যাইহোক, ওপেনএআই, যা সবেমাত্র সার্চ ইঞ্জিনের সাথে কাজ শুরু করছে, এই ধরনের সমস্যাগুলির প্রতিক্রিয়া জানাতে এখনও যথেষ্ট অভিজ্ঞতা নেই।
