কীভাবে AI-উত্পন্ন পাঠ্য ইন্টারনেটকে বিষাক্ত করছে

এটি AI এর জন্য একটি বন্য বছর হয়েছে। আপনি যদি অনলাইনে অনেক সময় কাটিয়ে থাকেন, তাহলে আপনি সম্ভবত DALL-E 2 বা স্থিতিশীল ডিফিউশনের মতো AI সিস্টেম দ্বারা তৈরি করা ছবি বা কৌতুক, প্রবন্ধ বা ChatGPT দ্বারা লেখা অন্যান্য পাঠ্য, OpenAI-এর বৃহৎ ভাষা মডেল GPT-এর সর্বশেষ অবতারে ধাক্কা খেয়েছেন। -3.

কখনও কখনও এটি স্পষ্ট হয় যখন একটি ছবি বা পাঠ্যের একটি অংশ একটি AI দ্বারা তৈরি করা হয়। কিন্তু ক্রমবর্ধমানভাবে, এই মডেলগুলি যে আউটপুট তৈরি করে তা সহজেই আমাদেরকে বোকা বানিয়ে ভাবতে পারে যে এটি একজন মানুষের তৈরি। এবং বিশেষ করে বড় ভাষা মডেল আত্মবিশ্বাসী বুলশিটার: তারা এমন পাঠ্য তৈরি করে যা সঠিক শোনায় কিন্তু বাস্তবে মিথ্যাতে পূর্ণ হতে পারে।

যদিও এটি সামান্য মজার বিষয় নয়, তবে এটির গুরুতর পরিণতি হতে পারে যদি AI মডেলগুলিকে অপ্রীতিকর স্বাস্থ্য পরামর্শ দেওয়ার জন্য বা অন্যান্য ধরণের গুরুত্বপূর্ণ তথ্য সরবরাহ করতে ব্যবহার করা হয়। এআই সিস্টেমগুলি ভুল তথ্য, অপব্যবহার এবং স্প্যাম তৈরি করা, আমরা যে তথ্যগুলি ব্যবহার করি এবং এমনকি আমাদের বাস্তবতাকেও বিকৃত করে তা নির্বোধভাবে সহজ করে তুলতে পারে। এটি নির্বাচনের আশেপাশে বিশেষভাবে উদ্বেগজনক হতে পারে, উদাহরণস্বরূপ।

এই সহজলভ্য বৃহৎ ভাষার মডেলগুলির বিস্তার একটি গুরুত্বপূর্ণ প্রশ্ন উত্থাপন করে: আমরা অনলাইনে যা পড়ি তা একজন মানুষ বা যন্ত্র দ্বারা লেখা কিনা তা আমরা কীভাবে জানব? আমি এইমাত্র একটি গল্প প্রকাশ করেছি যা বর্তমানে আমাদের এআই-জেনারেট করা পাঠ্য সনাক্ত করতে হবে এমন সরঞ্জামগুলির সন্ধান করে। স্পয়লার সতর্কতা: আজকের ডিটেকশন টুল কিট চ্যাটজিপিটি-এর বিরুদ্ধে খুবই অপ্রতুল।

তবে আরও গুরুতর দীর্ঘমেয়াদী প্রভাব রয়েছে। আমরা হয়তো বাস্তব সময়ে, তুচ্ছ-তাচ্ছিল্যের স্নোবলের জন্ম প্রত্যক্ষ করছি।

বৃহৎ ভাষার মডেলগুলিকে এমন ডেটা সেটগুলিতে প্রশিক্ষিত করা হয় যা পাঠ্যের জন্য ইন্টারনেট স্ক্র্যাপ করে তৈরি করা হয়, যার মধ্যে রয়েছে সমস্ত বিষাক্ত, নির্বোধ, মিথ্যা, দূষিত জিনিসগুলি যা মানুষ অনলাইনে লিখেছে৷ সমাপ্ত AI মডেলগুলি এই মিথ্যাগুলিকে সত্য হিসাবে পুনর্গঠিত করে, এবং তাদের আউটপুট অনলাইনে সর্বত্র ছড়িয়ে পড়ে। প্রযুক্তি কোম্পানিগুলি আবার ইন্টারনেট স্ক্র্যাপ করে, এআই-লিখিত টেক্সট সংগ্রহ করে যা তারা বড়, আরও দৃঢ়প্রত্যয়ী মডেলদের প্রশিক্ষণের জন্য ব্যবহার করে, যা মানুষ বারবার স্ক্র্যাপ করার আগে আরও বেশি বাজে কথা তৈরি করতে ব্যবহার করতে পারে, বিজ্ঞাপন বমিভাব।

এই সমস্যাটি-এআই নিজের উপর খাওয়ানো এবং ক্রমবর্ধমান দূষিত আউটপুট উত্পাদন করে-চিত্র পর্যন্ত প্রসারিত। কিংস কলেজ লন্ডনের একজন এআই গবেষক মাইক কুক, আমার সহকর্মী উইল ডগলাস হেভেনকে জেনারেটিভ এআই মডেলের ভবিষ্যত নিয়ে তার নতুন অংশে বলেছেন, “ইন্টারনেট এখন চিরকালের জন্য AI দ্বারা তৈরি ছবি দিয়ে দূষিত।

“আমরা 2022 সালে যে ছবিগুলি তৈরি করেছি তা এখন থেকে তৈরি যে কোনও মডেলের অংশ হবে।”