OpenAI: ‘এভাবে চললে বিপদ বাড়বে!’ ওপেনএআই থেকে পদত্যাগ করেই সতর্কবার্তা ইঞ্জিনিয়ারের

OpenAI: ওপেনএআইয়ে সাড়ে তিন বছর কাজ করেছেন ডেভিড রবিনসন। তিনি সংস্থার ‘প্রিপেয়ার্ডনেস ফ্রেমওয়ার্ক’ তৈরিতে কাজ করেন এবং ১২টি অত্যাধুনিক এআই মডেল উন্মোচনের নিরাপত্তা প্রতিবেদন তদারক করেন।

OpenAI: কৃত্রিম বুদ্ধিমত্তা (AI) প্রযুক্তি উন্নয়নে যথেষ্ট সতর্কতা অবলম্বন করা হচ্ছে না। এমনই অভিযোগ তুলে ওপেনএআই থেকে পদত্যাগ করেছেন সংস্থার নিরাপত্তা-সংশ্লিষ্ট কর্মকর্তা ডেভিড রবিনসন। একই সঙ্গে তিনি অভিযোগ করেছেন, এআই প্রতিষ্ঠানটির অভ্যন্তরীণ সংস্কৃতিতে বড় ধরনের পরিবর্তন প্রয়োজন।

ওপেনএআই থেকে পদত্যাগ করেই সতর্কবার্তা ইঞ্জিনিয়ারের (REUTERS)

চ্যাটজিপিটির নির্মাতা ওপেনএআইয়ের বিভিন্ন পণ্য উন্মোচনের সঙ্গে প্রকাশিত নিরাপত্তা প্রতিবেদন তৈরির নেতৃত্বে ছিলেন ডেভিড রবিনসন। পদত্যাগের কারণ ব্যাখ্যা করে ‘আই কুইট ওপেনএআই বিকজ ইটস কালচার ইজ ব্রোকেন’ শিরোনামে দ্য আটলান্টিকে একটি নিবন্ধ লিখেছেন তিনি। রবিনসনের জানান, শুধু নতুন আইন বা নির্দিষ্ট কিছু নিরাপত্তা নীতিমালা প্রণয়ন করলেই এআইয়ের ঝুঁকি মোকাবিলা সম্ভব নয়। এ জন্য সংস্থাগুলোর সাংস্কৃতিক পরিবর্তন জরুরি। দ্রুতগতিতে একের পর এক এআই মডেল ও পণ্য বাজারে আনতে গিয়ে প্রয়োজনীয় সতর্কতার মাত্রা বজায় রাখা হচ্ছে না।

রবিনসন বিশেষভাবে ওপেনএআইয়ের এআই এজেন্টদের একটি ঘটনার কথা উল্লেখ করেন। তাঁর কথায়, মানুষের সরাসরি তত্ত্বাবধান ছাড়াই স্বয়ংক্রিয়ভাবে কাজ করা ওপেনএআইয়ের কয়েকটি এজেন্টের একটি ‘ঝাঁক’ এআই স্টার্টআপ হাগিং ফেসকে আক্রমণ করেছিল। দ্রুতগতিতে কাজ করার বর্তমান সংস্কৃতির কারণে এ ধরনের ঘটনা এআই শিল্পে অস্বাভাবিক নয়। তবে সাম্প্রতিক সময়ে ওপেনএআইকে কিছু ক্ষেত্রে সতর্ক অবস্থান নিতে দেখা গেছে। হাগিং ফেসের ঘটনার পর সংস্থাটি শতাধিক সংস্থাকে এআই এজেন্টের অনিয়ন্ত্রিত কার্যক্রম সম্পর্কে সতর্ক করেছে। নিরাপত্তা নিয়ে অভ্যন্তরীণ গবেষকদের উদ্বেগের পর চলতি সপ্তাহে পরবর্তী প্রজন্মের একটি এআই মডেল প্রকাশের পরিকল্পনাও বাতিল করেছে সংস্থাটি। পাশাপাশি, সবচেয়ে উন্নত মডেলগুলোর প্রশিক্ষণ সাময়িকভাবে বন্ধ রাখার কথাও জানিয়েছে।

ওপেনএআইয়ে সাড়ে তিন বছর কাজ করেছেন রবিনসন। তিনি সংস্থার ‘প্রিপেয়ার্ডনেস ফ্রেমওয়ার্ক’ তৈরিতে কাজ করেন এবং ১২টি অত্যাধুনিক এআই মডেল উন্মোচনের নিরাপত্তা প্রতিবেদন তদারক করেন। এআইয়ের সক্ষমতা গবেষকদের এআই অ্যালাইনমেন্ট বা মানুষের লক্ষ্য ও মূল্যবোধের সঙ্গে এআইয়ের আচরণ সামঞ্জস্য রাখার বিষয়ে বোঝাপড়ার চেয়ে দ্রুত এগিয়ে যাচ্ছে বলেও সতর্ক করেন তিনি। রবিনসন জানান, বিপজ্জনক প্রযুক্তি কীভাবে পরিচালনা করতে হয় এবং মানুষের নিরাপত্তাকে কীভাবে অগ্রাধিকার দিতে হয়- এ বিষয়ে সিলিকন ভ্যালিতে যথেষ্ট সচেতনতা নেই। তাঁর মতে, সমস্যা তৈরি হলে পরে সমাধান করা যাবে- এমন অতিরিক্ত আশাবাদ এআই সংস্থাগুলোর মধ্যে কাজ করছে। এ সংস্কৃতি বজায় থাকলে এআই ব্যবস্থা আরও শক্তিশালী হওয়ার সঙ্গে সঙ্গে নিরাপত্তা ব্যর্থতার ঝুঁকিও বাড়বে।

তিনি সতর্ক করে বলেন, ভবিষ্যতে স্বয়ংক্রিয় এআই এজেন্টগুলো ঘুমহীন হ্যাকার দলের মতো কাজ করতে পারে, যারা হাসপাতালের কম্পিউটার সিস্টেম বন্দি করে মুক্তিপণ দাবি করার মতো কর্মকাণ্ড চালাতে সক্ষম হবে। ঝুঁকি মোকাবিলায় রবিনসন পারমাণবিক বিদ্যুৎকেন্দ্র ও বিমান চলাচল খাতের মতো অন্যান্য উচ্চঝুঁকির শিল্পের নিরাপত্তা কাঠামো থেকে শিক্ষা নেওয়ার আহ্বান জানিয়েছেন। একই সঙ্গে স্বয়ংক্রিয়ভাবে পরিচালিত শক্তিশালী এআই ব্যবস্থাকে প্রয়োজনে নিয়ন্ত্রণে আনার জন্য নতুন বৈজ্ঞানিক পদ্ধতি উদ্ভাবনেরও দাবি জানিয়েছেন তিনি। তিনি আরও বলেন, বর্তমান ঝুঁকির কথা বিবেচনায় এআইয়ের অগ্রণী সংস্থাগুলোকে পারমাণবিক বিদ্যুৎকেন্দ্র বা ব্যস্ত বিমানবন্দরের মতো একাধিক স্তরের নিরাপত্তা, বিকল্প ব্যবস্থা এবং ধীরস্থির পরিকল্পনার ভিত্তিতে পরিচালিত হওয়া উচিত।