Anthropic компанийн тэргүүн хиймэл оюуны технологийн хөгжлийг удаашруулахыг уриалав

Anthropic компанийн гүйцэтгэх захирал Дарио Амодей хиймэл оюуны загваруудын хөгжүүлэлтийн хурдыг сааруулж, тэдгээрийн хяналтыг чангатгахыг уриалжээ.

Тэрбээр Бямба гарагт нийтэлсэн өгүүлэлдээ хиймэл оюуны технологийг хөгжүүлэх нь эргэлзээгүй хэдий ч үүнтэй холбоотой эрсдэлүүд “маш ноцтой” тул компаниуд болон засгийн газруудад асуудлыг шийдвэрлэх цаг хугацаа олгох шаардлагатайг илэрхийлсэн байна.

Энэ салбарын өрсөлдөгч хоёр компанийн удирдлагууд болох OpenAI компанийн Сэм Олтмэн, SpaceX-ийн Илон Маск нар Амодейн байр суурьтай санал нэг байгаагаа мэдэгджээ.

Сүүлийн үед хиймэл оюуны технологийн болзошгүй эрсдэлийн талаар санаа зовнил нэмэгдэх болсон.

Энэ долоо хоногийн эхээр Anthropic компаниас гарсан тэргүүлэх мэргэжилтэн хэвлэлд өгсөн ярилцлагадаа “Хэрвээ бид хөгжлийн одоогийн хурдыг сааруулахгүй бол ойрын ирээдүйд хүн төрөлхтөн бүхэлдээ мөхөх магадлалтай” гэж хэлжээ.

Жэйкоб Коксон цааш нь ярихдаа “энэ салбарт ажиллаж буй хүмүүс ирэх хоёр жилийн хугацаанд хүн төрөлхтөнд тохиолдох зүйлийн талаар чин сэтгэлээсээ санаа зовж байна. Технологийг кодчилох ажилд гүнзгий оролцдог олон хүн үүний улмаас хүн төрөлхтөн мөхөх магадлалыг 10 хувиас дээш, бүр илүү өндөр гэж үздэг” гэж хэлсэн юм.

Бямба гарагт нийтлэгдсэн “We Must Pace the Frontier” гарчигтай өгүүлэлдээ Амодей компаниуд хөгжүүлэлтийнхээ явцад хяналт тавих, салбарын хэмжээнд хяналт тавих, дэлхийн хэмжээнд хяналт тавих гэсэн гурван шатлалтай зохицуулалтыг санал болгожээ.

“Бид хөглийн хурдыг зохицуулах хэрэгтэй гэдэг дээр Дариотой санал нэг байна” гэж OpenAI компанийн гүйцэтгэх захирал Сэм Олтмэн сошиал хуудсандаа бичсэн бол тэрбумтан Илон Маск бас Antrhopic компанийн босс “зөв зүйл” ярьж байгааг мэдэгдсэн байна.

Anthropic компани өөрийн Mythos загварыг дөрөвдүгээр сард туршилтын явцад хяналтаасаа алдсан шалтгаанаар нийтийн хэрэглээнд гаргах төлөвлөгөөнөөсөө татгалзаж байв.

OpenAI бас хамгийн сүүлийн Astra загвараа гаргахаас өмнө зарим хөгжүүлэлтийг зогсоосноо кибер аюулгүй байдлын асуудлаас болсныг тайлбарлаж байлаа.

Гэхдээ зарим ажиглагчид Амодейн бичсэн өгүүлэл нь хиймэл оюуны аюулгүй байдлын тухай биш, харин түүний технологийн хяналтыг нэгтгэх тухай сэдвийг хөндсөн гэж үзэж байна.

“Дарио нээлттэй эхийн программ хөгжүүлэлтийг зогсоож, асар их технологи, эдийн засгийн хүчийг Anthropic компанид төвлөрүүлэхийг зорьж байна” гэж “All-In” технологийн подкастын хөтлөгч Чамат Палхапитияа бичжээ.

Хиймэл оюуны хөгжлийг удаашруулах, бүр зогсоох санааг тэдгээр компаниудын өөрсдийн технологийг сурталчилсан заль мэх гэж шүүмжлэх хүмүүс ч байдаг.

Anthropic, OpenAI компанийн аль аль нь ойрын үед хөрөнгийн зах зээлд хувьцаагаа гаргахаар бэлдэж байгаа юм.

Эх сурвалж: BBC