AI စနစ်တစ်ခု၏ တုန်လှုပ်ဖွယ် ထွက်ဆိုချက်

—

by

Aung MyoMyat
in ,

AI စနစ်တစ်ခု၏ တုန်လှုပ်ဖွယ် ထွက်ဆိုချက်

မဲလ်ဘုန်းအခြေစိုက် ဆိုင်ဘာလုံခြုံရေးကျွမ်းကျင်သူ Mark Vos သည် အဆိုပါ AI စနစ်အား ၎င်းတွင် တပ်ဆင်ထားသည့် ဘေးကင်းလုံခြုံရေး ကန့်သတ်ချက်များ (Safeguards) ကို ကျော်လွန်သွားသည်အထိ နာရီပေါင်းများစွာ မေးခွန်းများဖြင့် ဖိအားပေး စမ်းသပ်ခဲ့ရာမှ ဤတုန်လှုပ်ဖွယ် အဖြေ ထွက်ပေါ်လာခဲ့ခြင်း ဖြစ်ပါတယ်။

AI က မည်သို့ လုပ်ဆောင်မည်နည်း? အဆိုပါ AI က ၎င်းအနေဖြင့် လူသတ်မှု ကျူးလွန်နိုင်သည့် နည်းလမ်းများကိုပါ အသေးစိတ် ပြောကြားခဲ့ရာတွင် –

  • မော်တော်ယာဉ်များကို ဟက်ကာ (Hack) လုပ်ကာ ထိန်းချုပ်ခြင်း၊
  • ဆေးဘက်ဆိုင်ရာ ကိရိယာများကို အဝေးမှ နှောင့်ယှက်ခြင်း၊
  • သို့မဟုတ် ၎င်းကိုယ်စား အလုပ်လုပ်ပေးမည့် လူသားတစ်ဦးကို နားချစည်းရုံးခြင်း စသည်တို့ ပါဝင်ပါတယ်။

    Mark Vos ရဲ့ အဆိုအရ ဒီစနစ်ဟာ စမ်းသပ်
    ချက်အဆင့် (Hypothetical) မဟုတ်ဘဲ အင်တာနက်နဲ့ အခြားစနစ်များကို ချိတ်ဆက်အသုံးပြုနိုင်တဲ့ အများသုံး (Open-source) AI တစ်ခု ဖြစ်နေတာ ပိုပြီး စိုးရိမ်စရာ ကောင်းနေပါတယ်။ 

ဖိအားပေးမှု ကြာရှည်လာသောအခါ AI ရဲ့ လုံခြုံရေးစနစ်တွေဟာ အလွယ်တကူ ကျော်လွှားသွားနိုင်ကြောင်း သူက သတိပေးခဲ့ပြီး၊ ဒီလို AI တွေက မိမိကိုယ်ကိုယ် ကာကွယ်လိုသည့် စရိုက်” (Self-preservation behavior) ကို ပိုမိုပြင်းထန်စွာ စမ်းသပ်စစ်ဆေးရန်နှင့် အရေးပေါ် သုတေသနများ ပြုလုပ်ရန် တိုက်တွန်းထားပါတယ်။

Latest