ChatGPT ရဲ့ နောက်ကွယ်မှာ ပြဿနာတွေ ရှိနေပြီလား

OpenAI က ChatGPT-4o ကို မိတ်ဆက်ပြီးနောက်နေ့မှာ ကုမ္ပဏီရဲ့ Co-founder & Chief Scientist ဖြစ်သူ Ilya Sutskever က နှုတ်ထွက်ကြောင်း ကြေညာတယ်။ သူနှုတ်ထွက်ပြီး သိပ်မကြာခင်မှာပဲ OpenAI ရဲ့ Superalignment အဖွဲ့ကို ပူးတွဲဦးဆောင်နေတဲ့ Machine Learning သုတေသနပညာရှင် Jan Leike ကပါ အလုပ်ထွက်တယ်။

Superalignment အဖွဲ့က ကုမ္ပဏီရဲ့ AI မော်ဒယ်ကြောင့် ဖြစ်ပေါ်လာနိုင်တဲ့ အကျိူးဆက်တွေ၊ အန္တရာယ်တွေကို ကာကွယ်တားဆီးထိန်းချူပ်နိုင်ဖို့အတွက် ဖွဲ့စည်းထားတာပါ။ အခုတော့ အဲ့ဒီအဖွဲ့ကို ဦးဆောင်နေတဲ့ Ilya Sutskever ရော၊ Jan Leike ပါ မရှိတော့ဘူး။

Jan Leike ကတော့ သူ့ရဲ့ X အကောင့်မှာ “safety culture and processes have taken a backseat to shiny products” ဆိုပြီး ရေးထားတယ်။ ဆိုလိုတာက OpenAI ဟာ အရေးကြီးတဲ့ Safety အပိုင်းကို ဦးစားမပေးဘဲ AI ကိုပဲ ပိုကြမ်းအောင်လုပ်နေတယ်ဆိုတဲ့ သဘောပါပဲ။ (သတိပေးစကားပါ)

အခုတော့ ဦးဆောင်သူမရှိတော့တဲ့ Superalignment အဖွဲ့ကို OpenAI က ဖျက်သိမ်းလိုက်ပြီ။ ကျန်ရှိနေတဲ့ အဖွဲ့ဝင်တွေကိုလည်း တခြားသုတေသနအဖွဲ့တွေမှာ ပြောင်းရွေ့လိုက်တယ်လို့ သိရတယ်။

ဘာပဲဖြစ်ဖြစ် OpenAI လိုမျိူး ကမ္ဘာ့ထိပ်တန်း AI နည်းပညာကုမ္ပဏီကြီးအနေနဲ့ Safety အပိုင်းကို ဦးစားမပေးဘူးဆိုရင် အန္တရာယ်ဖြစ်လာတဲ့အခါမှာ ခါးစည်းခံရမှာက ကျွန်တော်တို့ လူသားတွေပါပဲ။