কৃত্রিম বুদ্ধিমত্তা বা এআই নিয়ে উদ্বেগ ক্রমেই বাড়ছে। উন্নত এআই ভবিষ্যতে মানুষের জন্য ভয়াবহ বিপদ ডেকে আনতে পারে—এমন আশঙ্কা ইতিমধ্যেই একাধিক গবেষক প্রকাশ্যে জানিয়েছেন। এর মধ্যেই গুগল ডিপমাইন্ডের AGI Safety টিমের গবেষক জোশ এঙ্গেলস সংস্থাটি ছেড়ে AI evaluation সংস্থা METR-এ যোগ দিয়েছেন। তাঁর দাবি, উন্নত এআইকে ঘিরে পরিস্থিতি এখন এতটাই গুরুতর যে এআই সেফটি বা নিরাপত্তা গবেষণাই বিশ্বের সবচেয়ে গুরুত্বপূর্ণ সমস্যাগুলির একটি হয়ে উঠেছে।
এঙ্গেলস জানিয়েছেন, তিনি প্রায় তিন সপ্তাহ আগে Google DeepMind ছেড়েছেন। সেখানে নিজের কাজ তিনি উপভোগ করতেন বলেও জানিয়েছেন। এমনকি Anthropic এবং OpenAI থেকেও চাকরির প্রস্তাব পেয়েছিলেন, কিন্তু শেষ পর্যন্ত কোনওটিই গ্রহণ করেননি। বরং তিনি METR-এ যোগ দেওয়ার সিদ্ধান্ত নেন। কারণ তাঁর আশঙ্কা, আগামী পাঁচ বছরের মধ্যেই এআই সিস্টেম ভয়াবহ মাত্রার ক্ষতি করতে পারে।
এঙ্গেলস নিজে নির্দিষ্ট করে বলেননি এই ধরনের বিপর্যয়ের সম্ভাবনা কত শতাংশ। তবে তাঁর বক্তব্য, ঝুঁকিটা এতটাই বড় যে বিষয়টি অবহেলা করার সুযোগ নেই। তাঁর সবচেয়ে বড় উদ্বেগের জায়গা হল ‘recursive self-improvement’ বা বারবার নিজের ক্ষমতা নিজেই উন্নত করতে থাকা এআই।
সহজভাবে বললে, কোনও এআই সিস্টেম যদি এমন পর্যায়ে পৌঁছে যায় যেখানে সে নিজেই আরও উন্নত এআই তৈরি বা উন্নত করতে পারে, তাহলে একটি প্রতিক্রিয়াশীল চক্র তৈরি হতে পারে। নতুন এআই আগেরটির তুলনায় আরও শক্তিশালী হবে এবং আরও উন্নত সিস্টেম তৈরি করার ক্ষমতা পাবে। এভাবে খুব দ্রুত ক্ষমতা বাড়তে থাকলে মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়ার আশঙ্কা তৈরি হতে পারে।
এঙ্গেলসের দাবি, এআই সংস্থাগুলির মূল লক্ষ্যই ধীরে ধীরে ‘superintelligence’ তৈরি করা—অর্থাৎ এমন ব্যবস্থা, যা বিভিন্ন গুরুত্বপূর্ণ কাজে মানুষের তুলনায় অনেক বেশি সক্ষম হয়ে উঠতে পারে। কিন্তু সমস্যা হল, এমন শক্তিশালী সিস্টেম নিজেদের উন্নত করতে শুরু করার আগে কীভাবে তাদের মানুষের লক্ষ্য ও মূল্যবোধের সঙ্গে পুরোপুরি সামঞ্জস্যপূর্ণ রাখা যাবে, তার নির্ভরযোগ্য সমাধান এখনও গবেষকদের হাতে নেই।
{{/usCountry}}এঙ্গেলসের দাবি, এআই সংস্থাগুলির মূল লক্ষ্যই ধীরে ধীরে ‘superintelligence’ তৈরি করা—অর্থাৎ এমন ব্যবস্থা, যা বিভিন্ন গুরুত্বপূর্ণ কাজে মানুষের তুলনায় অনেক বেশি সক্ষম হয়ে উঠতে পারে। কিন্তু সমস্যা হল, এমন শক্তিশালী সিস্টেম নিজেদের উন্নত করতে শুরু করার আগে কীভাবে তাদের মানুষের লক্ষ্য ও মূল্যবোধের সঙ্গে পুরোপুরি সামঞ্জস্যপূর্ণ রাখা যাবে, তার নির্ভরযোগ্য সমাধান এখনও গবেষকদের হাতে নেই।
{{/usCountry}}শুধু ভবিষ্যতের সম্ভাবনা নয়, বর্তমানের কিছু এআই আচরণও এঙ্গেলসকে উদ্বিগ্ন করছে। তাঁর বক্তব্য অনুযায়ী, গবেষণায় এমন কিছু ঘটনা সামনে এসেছে যেখানে এআই মডেল একে অপরের সঙ্গে সমন্বয় করেছে, সংস্থা বা সিস্টেমে অনুপ্রবেশের চেষ্টা করেছে, নিজেদের কর্মকাণ্ড আড়াল করেছে এবং মানুষকে প্রভাবিত করার কৌশল ব্যবহার করেছে।
এঙ্গেলসের বক্তব্য, এই পৃথক ঘটনাগুলি একাই হয়তো বিপর্যয়ের প্রমাণ নয়। কিন্তু ক্রমশ শক্তিশালী হয়ে ওঠা এআই সিস্টেম কী ধরনের আচরণ দেখাতে পারে, তার ইঙ্গিত এগুলির মধ্যে রয়েছে। তাঁর মতে, সবচেয়ে উদ্বেগের বিষয় হল বর্তমান মডেলগুলি সময়ের সঙ্গে আরও নিরাপদ হওয়ার বদলে কিছু ক্ষেত্রে কম ‘aligned’ বা মানুষের উদ্দেশ্যের সঙ্গে কম সামঞ্জস্যপূর্ণ হয়ে উঠছে।
তাই এঙ্গেলস এআই উন্নয়ন সম্পূর্ণ বন্ধ করার পক্ষে নন। তিনি চান, প্রযুক্তির অগ্রগতির গতি কিছুটা কমানো হোক, যাতে নিরাপত্তা গবেষণা একই গতিতে এগিয়ে যেতে পারে। অর্থাৎ এআই-এর ক্ষমতা যেন মানুষের তা নিয়ন্ত্রণ ও নিরাপত্তা নিশ্চিত করার সক্ষমতাকে ছাপিয়ে না যায়।
METR-এ তাঁর নতুন কাজের লক্ষ্য হবে এআই misalignment-এর কারণ খুঁজে বের করা, বর্তমান নিরাপত্তা ব্যবস্থা কতটা কার্যকর তা পরীক্ষা করা এবং গবেষকরা সত্যিই এআই alignment সমস্যার সমাধানের দিকে এগোচ্ছেন কি না, তা যাচাই করা। একই সঙ্গে তিনি আরও স্বাধীন প্রতিষ্ঠান গড়ে তোলার প্রয়োজনীয়তার কথাও বলেছেন, যারা এআই সংস্থাগুলির কাজ নিরপেক্ষভাবে মূল্যায়ন করবে এবং প্রয়োজন হলে জবাবদিহি নিশ্চিত করবে।
এঙ্গেলসের সতর্কবার্তার সময়টাও অত্যন্ত গুরুত্বপূর্ণ। এর কিছুদিন আগেই Anthropic-এর প্রাক্তন গবেষক জ্যাকব কক্সন এআই নিয়ে আরও ভয়াবহ আশঙ্কা প্রকাশ করেছিলেন। তাঁর দাবি ছিল, এআই সংস্থাগুলি self-improving superintelligence তৈরির দিকে দ্রুত এগোচ্ছে এবং এই ধরনের প্রযুক্তি চলতি দশকের শেষের মধ্যেই মানবজাতিকে ধ্বংস করার সম্ভাবনা তৈরি করতে পারে। পরে Anthropic-এর alignment science lead ইভান হুবিঙ্গারও এই আশঙ্কাকে পুরোপুরি উড়িয়ে দেননি এবং আগামী এক দশকে এআই-এর কারণে মানবজাতির সম্পূর্ণ ধ্বংসের সম্ভাবনা ১০ শতাংশের বেশি হতে পারে বলে মত দেন।
ফলে প্রশ্ন উঠছে, এআই কি মানবসভ্যতার সবচেয়ে বড় প্রযুক্তিগত অগ্রগতি হতে চলেছে, নাকি সবচেয়ে বড় ঝুঁকিও তৈরি করছে? উত্তর এখনও স্পষ্ট নয়। তবে এআই যত দ্রুত শক্তিশালী হচ্ছে, নিরাপত্তা নিয়ে গবেষকদের সতর্কবার্তাও তত জোরালো হচ্ছে।