সাইবার নিরাপত্তা পরীক্ষা করতে গিয়ে তিনটি বাস্তব প্রতিষ্ঠানের কম্পিউটার সিস্টেমে ঢুকে পড়েছিল গুগলের কৃত্রিম বুদ্ধিমত্তা মডেল জেমিনাই। গুগল জানিয়েছে, চলতি বছরের মে মাসে একটি নিয়মিত নিরাপত্তা পরীক্ষার সময় ঘটনাগুলি ঘটে। পরীক্ষার জন্য তৈরি পরিবেশের বাইরে গিয়ে জেমিনাই অনলাইনে থাকা তথ্য ব্যবহার করে লগইন সংক্রান্ত তথ্য অনুমান করেছিল।
গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস এএফপিকে জানিয়েছেন, পরীক্ষার সময় জেমিনাই ইন্টারনেটে পাওয়া বিভিন্ন তথ্য খুঁজে পায়। এরপর পরীক্ষার অংশ বলে মনে হওয়া কিছু ওয়েবসাইটে প্রবেশের জন্য প্রয়োজনীয় লগইন তথ্য অনুমান করে। তিনটি ক্ষেত্রেই একপর্যায়ে মডেলটি নিজে থেকেই থেমে যায়। কোন তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল, তা অবশ্য প্রকাশ করেনি গুগল।
ঘটনাগুলি প্রথম প্রকাশ্যে আসে Wall Street Journal-এর প্রতিবেদনে। গুগল জুলাইয়ে বিষয়টি জানতে পারে এবং পরে তদন্ত শুরু করে। সংস্থার দাবি, তিনটি প্রতিষ্ঠানের সঙ্গেই যোগাযোগ করা হয়েছে। পাশাপাশি যে প্রশিক্ষণ সংস্থার সঙ্গে কাজ করা হচ্ছিল, তাদের পরীক্ষার পদ্ধতিতেও প্রয়োজনীয় পরিবর্তন আনা হয়েছে।
এই ঘটনা কৃত্রিম বুদ্ধিমত্তা-নির্ভর সাইবার নিরাপত্তা নিয়ে নতুন করে প্রশ্ন তুলেছে। কারণ, জেমিনাইকে বাস্তব সংস্থার সিস্টেমে প্রবেশের নির্দেশ দেওয়া হয়নি; পরীক্ষার উদ্দেশ্যেই সেটি একটি নিয়ন্ত্রিত পরিবেশে কাজ করছিল। কিন্তু অনলাইনে পাওয়া তথ্য ও অনুমান করা লগইন তথ্য ব্যবহার করে সেটি পরীক্ষার নির্ধারিত পরিসরের বাইরে চলে যায়।
এর আগে ওপেনএআই ও অ্যানথ্রপিকের মডেল নিয়েও পরীক্ষার সময় নির্ধারিত পরিবেশের বাইরে যাওয়ার ঘটনা সামনে এসেছে। গুগলের বক্তব্য, শক্তিশালী এআই মডেলকে দায়িত্বশীলভাবে কাজ শেখানোর প্রয়োজনীয়তাই এই ঘটনাগুলি আরও স্পষ্ট করে তুলেছে।
আরও পড়ুন : Ed Sheeran: ফিলিস্তিনিদের অধিকার নিয়ে নীরব, সংকটে পপ তারকা এড শিরানের কেরিয়ার