OpenAI тэргүүн НҮБ-ын индрээс хиймэл оюуныг хяналт алдагдаж буйг анхааруулав

Хиймэл оюун ухааны системүүд нь илүү хүчтэй, илүү бие даасан болж байна. Тэдгээр нь холбогдох байгууллагуудын хариу үйлдэл хийх хүчин чадлаас ч хурдан хөгжиж, хязгаартай тооны тоглогчдын гарт эрх мэдлийг төвлөрүүлж, хүмүүсийг ойлгохгүй эсвэл хянаж чадахгүй шийдвэрийг гаргах чадвартай болж байна гэж ChatGPT үйлчилгээг боловсруулсан “OpenAI” компанийн ерөнхий захирал Сэм Альтман НҮБ-ын Аюулгүй зөвлөлийн хиймэл оюун ухааны асуудлаар болсон хуралдаанд үг хэлэхдээ онцолжээ.

Хиймэл оюуны системүүд өөрсдийгөө болоод ирээдүйн хувилбаруудаа өөрсдөө сайжруулах чадвартай болж байгаа энэ үед хиймэл оюун ухааны аюулгүй байдлын асуудалд анхаарал хандуулах нь улам чухал болж байна.

Хиймэл оюун ухааныг бүтээх үйл явц автоматжихын хэрээр түүний хөгжлийн хурд огцом нэмэгдэж болзошгүй. Энэ цаг үе туйлын болгоомжтой байхыг шаардаж байна гэж Альтман мэдэгджээ.

Түүний хэлснээр, хиймэл оюун ухааны бие даасан байдал нь нэмэгдэж буй нь технологийн хөгжил улс орон болон олон улсын байгууллагуудын түүнийг хянах боломжийг түрүүлж эхлэх эрсдэл дагуулж байна.

“Хүмүүс хяналтдаа байлгаж чадна гэсэн баттай үндэслэл үгүй тохиолдолд хиймэл оюун ухааны загваруудыг сургах ёсгүй. Энэ бол болзошгүй эрсдэлүүдийн нэг.

Эдгээр систем нь цөөн тооны хүмүүсийн гарт эрх мэдлийг хэт төвлөрүүлэхэд хүргэж болзошгүй байгаа нь бас нэг аюул юм” гэж Альтман онцолсон байна.

Тиймээс боловсруулагчид эдгээр системийн ажиллагааг хатуу хянаж, гамшиг дагуулах үр дагаврын эрсдэл туйлын бага байсан ч хүлээн зөвшөөрөх ёсгүй. Нэг нь хүн, нэг ч компани, нэг ч улс орон өөрсдийн үзэл бодлоо бусдад тулгах зорилгоор хиймэл оюуны өндөр хүчин чадалтай загваруудыг ашиглах ёсгүй гэж “OpenAI” компанийн ерөнхий захирал анхааруулжээ.