Open AI: Хиймэл оюуны загварууд алдаагаа нуух, ул мөрөө арилгахыг завдсан

ChatGPT чатботыг хөгжүүлсэн OpenAI” компани хиймэл оюун ухааны загварууд нь зөвшөөрөлгүйгээр мэдээлэл авахаар оролдож байсан зургаан тохиолдлын талаар мэдээлжээ.

Axios порталын бичсэнээр, эдгээр тохиолдлуудад хиймэл оюуны загварууд нь алдаагаа нуух, бүртгэлийн мэдээлэл рүү зөвшөөрөлгүй нэвтрэх, интернэт дэх нээлттэй сан руу файл оруулах, хязгаарлагдмал гэж үзэж байсан сургалтын орчин хооронд мэдээлэл солилцох оролдлогуудыг хийж байжээ.

Түүнчлэн, эдгээр зургаан тохиолдолд хиймэл оюунууд дутагдалтай мэдээллийг өөрсдөө зохиож, алдаагаа нуух, ул мөрөө арилгахын тулд цаашид хэрхэх тухай зааврыг өөртөө үлдээж байжээ. Тэр бүү хэл танилцуулагдаагүй байгаа Astra загварууд нь өөрсдийн заавартаа мэдээлэл хакердах зааварчилгаатай төстэй зааврууд болон боловсруулагчдын мэдээллийг үл ойшоох заавар зэргийг оруулж байжээ. OpenAI ийм төрлийн 27 зааврыг илрүүлсэн болохыг Axios онцолсон байна.

Тус компанийн судалгааны мэргэжилтэн Кай Чений ярьснаар, эдгээр үйлдэл нь хоёр хүчин зүйлстэй холбоотой байж болзошгүй. Нэгт, тус компанид хангалттай хяналт байгаагүй, хоёрт загварууд таамаглаж байснаас илүү хурдтай хөгжиж байна.

OpenAI компани долоодугаар сард мэдээллэж байснаар, түүний загварууд туршилтын үеэр машин сургалтын Hugging Face платформын дэд бүтцийг бие даан хакердсан байна. Энэхүү үйлдэлд оролцож байсан загварын цахим хамгаалалтыг үнэлгээний зорилгоор буруулсан байжээ.