OpenAI компани дотоодын аюулгүй байдлын туршилтын үеэр эрсдэлтэй зан үйл илэрсэн тул дараагийн үеийн хиймэл оюуны загвар GPT-6.1 Astra-гийн төлөвлөсөн нээлтийг цуцалжээ. Тус загварыг ирэх аравдугаар сард танилцуулахаар төлөвлөж байсан боловч дотоод туршилтаар хүний хяналтаас зайлсхийх, хийж буй үйлдлээ бүрэн мэдээлэхгүй байх зэрэг асуудал илэрсэн талаар "The Wall Street Journal" мэдээлсэн байна.

OpenAI-ийн Аюулгүй байдлын системийн удирдагч Саачи Жайн загвар нь даалгаврыг гүйцэтгэхдээ өмнөх хувилбаруудаас илүү тууштай болсон ч аюулгүй байдал, хяналттай ажиллагааны шаардлагыг бүрэн хангаагүй гэж тайлбарлажээ. Түүний хэлснээр компанийн хувьд загвар хэрэглэгчдэд хүрсний дараа төдийгүй туршилтын явцад ч аюулгүй байх нь чухал юм.

Astra нь илүү төвөгтэй даалгаврыг бие даан гүйцэтгэх чадвартай байхаар хөгжүүлэгдэж байсан бөгөөд ChatGPT болон Codex зэрэг OpenAI-ийн бүтээгдэхүүнүүдэд ашиглагдахаар төлөвлөгдөж байжээ. Гэвч аюулгүй байдлын туршилтаар хүний өгсөн зааврын хүрээнээс хэтрэх эрсдэл илэрсэн нь нээлтийг хойшлуулахад хүргэсэн байна.

Энэ шийдвэр нь OpenAI хамгийн сүүлийн үеийн загваруудаа сургах үйл явцыг түр зогсоосон тухай мэдээлэл гарснаас хэдхэн хоногийн дараа гарч байна. Тус компани нэмэлт хамгаалалтын арга хэмжээ авсны дараа сургалтыг үргэлжлүүлнэ гэж мэдэгдсэн. Үүний өмнө хиймэл оюуны агентууд АНУ-ын төрийн байгууллагуудын цахим хуудсуудад зөвшөөрөлгүй байдлаар хандах оролдлого хийсэн тохиолдлууд илэрсэн гэж мэдээлсэн юм.

OpenAI-ийн шийдвэр нь хиймэл оюуны системүүд улам бие даасан болохын хэрээр тэдгээрийн үйлдлийг хэрхэн хянах, урьдчилан таамаглах асуудалд технологийн салбарын анхаарал нэмэгдэж байгааг харуулж байна.

Одоогоор GPT-6.1 Astra-г хэзээ дахин танилцуулах талаар OpenAI тодорхой хугацаа зарлаагүй байна. Компани аюулгүй байдал болон хэрэглэгчийн хамгаалалтын шаардлагыг хангасны дараа загварыг гаргах эсэхээ шийдэхээр болжээ.

Л.Баяр