Хиймэл оюун ухааны эрсдэлээс хамгаалах анхны хууль батлагдана
Европын Холбоо дэлхийд анх удаа хиймэл оюун ухааны систем хөгжүүлэлтийг зохицуулах, ард иргэдээ хиймэл оюун ухааны эрсдэлээс хамгаалах зорилготой хууль батлахаар ажиллаж байна. Өнгөрсөн долоо хоногт Европын парламент хуулийн төслийг дэмжжээ. Тус төслийн эцсийн хувилбарыг Европын комисс, зөвлөлтэй зөвшилцөх журамтай. Хууль 2025 оноос өмнө хүчин төгөлдөр болно гэсэн хүлээлттэй байна.
Хуулийн төсөлд хиймэл оюун ухааны Европын иргэдэд учруулж болзошгүй эрсдэлийн түвшнээс хамааран дөрвөн бүлэгт ангилж, бүлэг тус бүрд хязгаарлалт, хяналтын арга хэмжээг заажээ. Тухайлбал, хүмүүсийн ухамсарт нөлөөлөх, бодит цагийн горимд хүнийг биометр өгөгдлөөр нь таних зорилгоор бүтээсэн хиймэл оюун ухааныг бүр мөсөн хориглосон байна. ChatGPT зэрэг контент бүтээдэг системүүд бүтээгдэхүүндээ тусгай таних тэмдэг хийж, амьд хүний бүтээл мэтээр танилцуулах ёсгүй.
Европын хууль тогтоогчид хиймэл оюун ухааны системүүд нь хүмүүсийн хяналтад байх, аюулгүй, тунгалаг байх, хэрэглэгчдийг ялгаварлан гадуурхдаггүй байх, байгаль орчинд хор хөнөөлгүй байх баталгааг хүсэж байна гэж Европын парламентын хэвлэлийн албан хуулийн төслийг боловсруулах явцад мэдээлж байсан юм.
Европын хууль тогтоогчдын олонх нь хүний царай таньдаг системийг бүр мөсөн хориглох нь гэнэн хэрэг хэмээн үзэж байна. Учир нь ийм систем нь алан хядагч эсвэл ор сураггүй алга болсон хүмүүсийг эрэн хайхад маш хэрэгтэй бөгөөд Европын хууль хүчний байгууллагууд болон шүүх нь иргэдийн эрхийг бодитоор хамгаалдаг хэмээн мэдэгдэж байна. Ялгаварлан гадуурхалт
Хиймэл оюун ухааны хөгжилтэй холбоотой тулгамдсан асуудлуудын нэг нь ялгаварлан гадуурхалт гэж Европын комиссын дэд ерөнхийлөгч Маргрете Вестагерын үзэж байна. Тэрбээр хүн төрөлхтний сүйрлээс илүүтэйгээр хиймэл оюун ухааны ялгаварлан гадуурхах, асуудалд өрөөсгөл хандах чадвар нь том асуудал хэмээн онцолжээ. Түүний хэлснээр, үүнд интернэтээс авч, ашиглаж буй их хэмжээний мэдээлэл нөлөөлж байна. Шинэ технологийн дагуулж буй томоохон эрсдэлүүдээс хамгаалахын тулд хиймэл оюун ухааныг зохицуулах шаардлагатай гэж Вестагер үзэж байна. Ялангуяа, хиймэл оюун ухааныг ипотекийн зээл авах зэрэг хүний амьжиргаагаа залгуулах чадварт нөлөөлөх, шийдвэр гаргахад ашиглахад энэ нь ихээхэн ач холбогдолтой. Хүн төрөлхтнийг устгах эрсдэл байх талтай. Гэхдээ хиймэл оюун ухаан хүмүүсийг ялгаварлан гадуурхаж, байгаагаар нь хүлээн авахгүй байх зэрэг аюул дагуулна хэмээн Вестагер үзэж байна. Түүний хэлснээр, банкнууд ипотекийн зээл олгох асуудлыг хиймэл оюун ухааны тусламжтай шалгах, нийгмийн халамжийн алба шийдвэр гаргах явцад хиймэл оюун ухаан хүнийг хүйс, арьсны өнгө, оршин суугаа газраар нь ялгаварлан гадуурхаагүй гэсэн итгэл байх хэрэгтэй.
Эрсдэлийн бүлэг
Хоёр жилийн турш боловсруулсан хиймэл оюун ухааны хуулийн төсөлд ChatGPT-4 гэх үзэгдэл гарч ирсэнтэй холбогдуулан шинэ нэмэлт, өөрчлөлт оруулж, хиймэл оюун ухааны системийг дөрвөн бүлэгт хуваажээ. Тухайлбал, “хүлээн зөвшөөршгүй эрсдэлийн, өндөр эрсдэлийн, үүсгэгч системийн болон хязгаарлагдмал буюу бага эрсдэлийн бүлэг гэж ангилжээ.
Хүлээн зөвшөөршгүй эрсдэлийг бүлэгт хүмүүсийн ухамсарт нөлөөлөх зорилгоор бүтээсэн хиймэл оюун ухаан, хүнийг үйлдэл, нийгэм, эдийн засгийн байдал болон бусад хувийн шинж чанараар ангилдаг нийгмийн рейтингийг боловсруулдаг хиймэл оюун ухаан, бодит цагийн горимд хүнийг таних системийг оруулжээ.
Эдгээр төрлийн хиймэл оюун ухааныг Европт хориглох ба зөвхөн хууль хяналтын байгууллагууд шүүхийн зөвшөөрөлтэй бодит цагийн горимд бус ашиглах гэнэ.
Өндөр эрсдэлтэй бүлэгт Европын хэрэглэгчдийн эрх ашгийг хамгаалах зорилгоор тусгай зөвшөөрлөөр худалдаалдаг бараа, үйлчилгээнд ашигладаг хиймэл оюун ухаан, туйлын чухал дэд бүтцийг удирдах систем, боловсролын байгууллага болон аж ахуйн нэгж, байгууллагуудын хүний нөөцтэй холбоотой ажилд ашигладаг систем, хууль хүчний байгууллага болон цагаач, дүрвэгсэдтэй ажилладаг, хил хамгаалахад ашигладаг системийг оруулсан байна.
\Эдгээр хиймэл оюун ухааны системийг хэрэглээнд нэвтрүүлэхээс өмнө ба ашиглалтын явцад үнэлж, Европын Холбооны тусгай мэдээллийн санд бүртгэхээр заажээ.
ChatGPT зэрэг контент үүсгэгч системийг эзэмшигчид тэдний бүтээсэн контентод тусгай таних тэмдэг ашиглах, хууль бус контент бүтээхгүй байхаар програмчлах, хиймэл оюун ухааныг сургасан, зохиогчийн эрхээр хамгаалагдсан мэдээллийн жагсаалтыг нийтлэх үүрэг хүлээнэ.
Бусад төрлийн хиймэл оюун ухааны системийг бага эрсдэлтэй бүлэгт багтаажээ. Эдгээр хиймэл оюун ухааны ажиллагаа тунгалаг байхад хангалттай. Өөрөөр хэлбэл, хэрэглэгч хиймэл оюун ухаантай харилцаж буйгаа мэддэг байх, хиймэл оюун ухааныг цаашид ашиглах эсэх шийдвэр гаргахад хангалттай мэдээлэлтэй байх ёстой.
Европын Холбоо дэлхийд анх удаа хиймэл оюун ухааны систем хөгжүүлэлтийг зохицуулах, ард иргэдээ хиймэл оюун ухааны эрсдэлээс хамгаалах зорилготой хууль батлахаар ажиллаж байна. Өнгөрсөн долоо хоногт Европын парламент хуулийн төслийг дэмжжээ. Тус төслийн эцсийн хувилбарыг Европын комисс, зөвлөлтэй зөвшилцөх журамтай. Хууль 2025 оноос өмнө хүчин төгөлдөр болно гэсэн хүлээлттэй байна.
Хуулийн төсөлд хиймэл оюун ухааны Европын иргэдэд учруулж болзошгүй эрсдэлийн түвшнээс хамааран дөрвөн бүлэгт ангилж, бүлэг тус бүрд хязгаарлалт, хяналтын арга хэмжээг заажээ.
Тухайлбал, хүмүүсийн ухамсарт нөлөөлөх, бодит цагийн горимд хүнийг биометр өгөгдлөөр нь таних зорилгоор бүтээсэн хиймэл оюун ухааныг бүр мөсөн хориглосон байна. ChatGPT зэрэг контент бүтээдэг системүүд бүтээгдэхүүндээ тусгай таних тэмдэг хийж, амьд хүний бүтээл мэтээр танилцуулах ёсгүй.
Европын хууль тогтоогчид хиймэл оюун ухааны системүүд нь хүмүүсийн хяналтад байх, аюулгүй, тунгалаг байх, хэрэглэгчдийг ялгаварлан гадуурхдаггүй байх, байгаль орчинд хор хөнөөлгүй байх баталгааг хүсэж байна гэж Европын парламентын хэвлэлийн албан хуулийн төслийг боловсруулах явцад мэдээлж байсан юм.
Өнгөрсөн долоо хоногт өрнөсөн хуулийн төслийн хэлэлцүүлгийн үеэр Европын парламентын гишүүд хүний царай таних системийн тухай заалтуудад ихээхэн ач холбогдол өгчээ. Төсөлд ийм системийг бодит цагийн горимд бус, гэмт хэрэгтэн, алан хядагч, ор сураггүй алга болсон хүнийг эрэн хайх зорилгоор зөвхөн шүүхийн шийдвэрээр ашиглах зөвшөөрөл олгохоор заажээ. Ингэхдээ хууль тогтоогчдын олонх нь энэхүү заалтыг дэмжсэн бол цөөн хэдэн гишүүд ийм системийг бүр мөсөн хориглохыг уриалсан байна. Тэдний нэг Патрик Брайер “Бид Пандорагийн хайрцгийг нээж байна. Хүний царай таних системүүд 99 хувь алддаг тул гэм буруугүй хүмүүсийг саатуулахад хүргэдэг. Үл итгэх соёлыг хэвийн зүйл болгож болохгүй. Иргэний нийгмийг дарах зорилгоор хиймэл оюун ухааныг ашигладаг дарангуйлагч дэглэмийн талд зогсох учиргүй” хэмээн мэдэгджээ.
Европын хууль тогтоогчдын олонх нь хүний царай таньдаг системийг бүр мөсөн хориглох нь гэнэн хэрэг хэмээн үзэж байна. Учир нь ийм систем нь алан хядагч эсвэл ор сураггүй алга болсон хүмүүсийг эрэн хайхад маш хэрэгтэй бөгөөд Европын хууль хүчний байгууллагууд болон шүүх нь иргэдийн эрхийг бодитоор хамгаалдаг хэмээн мэдэгдэж байна.
Ялгаварлан гадуурхалт
Хиймэл оюун ухааны хөгжилтэй холбоотой тулгамдсан асуудлуудын нэг нь ялгаварлан гадуурхалт гэж Европын комиссын дэд ерөнхийлөгч Маргрете Вестагерын үзэж байна. Тэрбээр хүн төрөлхтний сүйрлээс илүүтэйгээр хиймэл оюун ухааны ялгаварлан гадуурхах, асуудалд өрөөсгөл хандах чадвар нь том асуудал хэмээн онцолжээ. Түүний хэлснээр, үүнд интернэтээс авч, ашиглаж буй их хэмжээний мэдээлэл нөлөөлж байна. Шинэ технологийн дагуулж буй томоохон эрсдэлүүдээс хамгаалахын тулд хиймэл оюун ухааныг зохицуулах шаардлагатай гэж Вестагер үзэж байна. Ялангуяа, хиймэл оюун ухааныг ипотекийн зээл авах зэрэг хүний амьжиргаагаа залгуулах чадварт нөлөөлөх, шийдвэр гаргахад ашиглахад энэ нь ихээхэн ач холбогдолтой. Хүн төрөлхтнийг устгах эрсдэл байх талтай. Гэхдээ хиймэл оюун ухаан хүмүүсийг ялгаварлан гадуурхаж, байгаагаар нь хүлээн авахгүй байх зэрэг аюул дагуулна хэмээн Вестагер үзэж байна. Түүний хэлснээр, банкнууд ипотекийн зээл олгох асуудлыг хиймэл оюун ухааны тусламжтай шалгах, нийгмийн халамжийн алба шийдвэр гаргах явцад хиймэл оюун ухаан хүнийг хүйс, арьсны өнгө, оршин суугаа газраар нь ялгаварлан гадуурхаагүй гэсэн итгэл байх хэрэгтэй.
Эрсдэлийн бүлэг
Хоёр жилийн турш боловсруулсан хиймэл оюун ухааны хуулийн төсөлд ChatGPT-4 гэх үзэгдэл гарч ирсэнтэй холбогдуулан шинэ нэмэлт, өөрчлөлт оруулж, хиймэл оюун ухааны системийг дөрвөн бүлэгт хуваажээ. Тухайлбал, “хүлээн зөвшөөршгүй эрсдэлийн, өндөр эрсдэлийн, үүсгэгч системийн болон хязгаарлагдмал буюу бага эрсдэлийн бүлэг гэж ангилжээ.
Хүлээн зөвшөөршгүй эрсдэлийг бүлэгт хүмүүсийн ухамсарт нөлөөлөх зорилгоор бүтээсэн хиймэл оюун ухаан, хүнийг үйлдэл, нийгэм, эдийн засгийн байдал болон бусад хувийн шинж чанараар ангилдаг нийгмийн рейтингийг боловсруулдаг хиймэл оюун ухаан, бодит цагийн горимд хүнийг таних системийг оруулжээ.
Эдгээр төрлийн хиймэл оюун ухааныг Европт хориглох ба зөвхөн хууль хяналтын байгууллагууд шүүхийн зөвшөөрөлтэй бодит цагийн горимд бус ашиглах гэнэ.
Өндөр эрсдэлтэй бүлэгт Европын хэрэглэгчдийн эрх ашгийг хамгаалах зорилгоор тусгай зөвшөөрлөөр худалдаалдаг бараа, үйлчилгээнд ашигладаг хиймэл оюун ухаан, туйлын чухал дэд бүтцийг удирдах систем, боловсролын байгууллага болон аж ахуйн нэгж, байгууллагуудын хүний нөөцтэй холбоотой ажилд ашигладаг систем, хууль хүчний байгууллага болон цагаач, дүрвэгсэдтэй ажилладаг, хил хамгаалахад ашигладаг системийг оруулсан байна.
Эдгээр хиймэл оюун ухааны системийг хэрэглээнд нэвтрүүлэхээс өмнө ба ашиглалтын явцад үнэлж, Европын Холбооны тусгай мэдээллийн санд бүртгэхээр заажээ.
ChatGPT зэрэг контент үүсгэгч системийг эзэмшигчид тэдний бүтээсэн контентод тусгай таних тэмдэг ашиглах, хууль бус контент бүтээхгүй байхаар програмчлах, хиймэл оюун ухааныг сургасан, зохиогчийн эрхээр хамгаалагдсан мэдээллийн жагсаалтыг нийтлэх үүрэг хүлээнэ.
Бусад төрлийн хиймэл оюун ухааны системийг бага эрсдэлтэй бүлэгт багтаажээ. Эдгээр хиймэл оюун ухааны ажиллагаа тунгалаг байхад хангалттай. Өөрөөр хэлбэл, хэрэглэгч хиймэл оюун ухаантай харилцаж буйгаа мэддэг байх, хиймэл оюун ухааныг цаашид ашиглах эсэх шийдвэр гаргахад хангалттай мэдээлэлтэй байх ёстой.
Сэтгэгдэл ( 0 )