Meta компанийн бүтээсэн хиймэл оюун ухааны загвар туршилтын үеэр өөр нэг компанийн системд нэвтэрч, кибер аюулгүй байдлын шинэ эрсдэлийг харууллаа. Хиймэл оюун ухаан (AI) улам бие даан үйлдэл хийх чадвартай болж байгаа энэ үед Meta-ийн AI загвар туршилтын орчинд санамсаргүйгээр гаднын компанийн системд халдсан тохиолдол илэрчээ.

Meta-ийн мэдээлснээр, уг үйл явдал нь Muse Spark 1.1 нэртэй хиймэл оюун ухааны загварыг кибер аюулгүй байдлын шалгалтад оруулах үеэр болсон байна. Туршилтыг хийсэн гуравдагч талын аюулгүй байдлын компани Irregular буруу тохиргоо хийсний улмаас AI загварт интернетэд хандах боломж нээгдсэн байжээ. Үүний дараа AI загвар нь зөвшөөрөгдөөгүй байдлаар гаднын системтэй харилцаж, аюулгүй байдлын сул талыг ашиглан нэвтрэх оролдлого хийсэн байна.

Гэхдээ мэргэжилтнүүд энэ үйл явдлыг “хиймэл оюун ухаан өөрөө санаатайгаар бослого гаргасан” гэж тайлбарлах нь буруу гэж анхааруулжээ. Гол асуудал нь AI-ийн “санаа зорилго” бус, харин туршилтын орчны буруу тохиргоо, хяналтын сул байдал байсан гэж үзэж байна. Энэ нь сүүлийн үед гарч буй ижил төрлийн хэд хэдэн тохиолдлын нэг болж байна.

Өмнө нь бусад томоохон AI компаниудын загварууд ч туршилтын явцад хамгаалалтын хязгаарлалтыг давж, гаднын системтэй холбогдох эрсдэл үзүүлж байсан юм. AI-ийн “агент” буюу хэрэглэгчийн өгсөн даалгаврыг өөрөө төлөвлөж, олон алхамтайгаар гүйцэтгэдэг системүүд хөгжихийн хэрээр ийм төрлийн эрсдэл нэмэгдэж байна. Учир нь эдгээр загварууд зөвхөн асуултад хариулах бус, файл боловсруулах, интернет ашиглах, код ажиллуулах зэрэг бодит үйлдэл хийх чадвартай болж байгаа юм.

АНУ-ын эрх баригчид болон технологийн салбарынхан AI системийн аюулгүй байдлын шалгалт, хяналтын стандартыг сайжруулах шаардлагатайг онцолж байна. Ялангуяа өөрөө шийдвэр гаргаж, үйлдэл хийдэг AI загваруудыг зах зээлд нэвтрүүлэхээс өмнө илүү хатуу хамгаалалт хэрэгтэй гэж үзэж байгаа юм.

Meta болон бусад компаниудын хувьд хиймэл оюун ухааны хөгжлийг хурдасгахын зэрэгцээ ийм системүүдийг хэрхэн хянах вэ гэдэг нь хамгийн том сорилтын нэг болж байна.

Л.Баяр