Робот хөгжих аюул үнэн үү эсвэл домог уу?

2024 Зохиолч: Seth Attwood | [email protected]. Хамгийн сүүлд өөрчлөгдсөн: 2023-12-16 16:12

Бид роботууд хүмүүсийг орлохгүй, учир нь тэдгээрт хүн гэж байдаггүй гэж хэлэхэд бид хүний бүтээж бүтээх, логикгүй үйлдэл хийх онцгой чадварыг огтхон ч хэлэхгүй. Хэзээ нэгэн цагт роботууд ч үүнийг хийх боломжтой болно. Гэхдээ тэднээс айх нь зүгээр л утгагүй юм. Яагаад гэж Yandex-ийн стратегийн маркетингийн захирал Андрей Себрант тайлбарлав.

Тин Вудман хэрхэн Терминатор болсон тухай

Агуу зохиолч Артур Кларк гурван хуулийг томьёолсны нэг нь: "Хангалттай дэвшилтэт технологи нь ид шидээс ялгагдах боломжгүй" гэж бичсэн байдаг. Энэхүү томъёолол нь өндөр технологид хандах бидний хандлагыг үнэн зөв дүрсэлсэн. Гэвч телевиз, фэйсбүүк хөгжсөн хэвлэл мэдээллийн эрин зуунд илбэчин байх нь улам хэцүү болж байна.

Нэлээд хиймэл оюун ухааны жишээ бол Элли (эсвэл Дороти) найзалж, сайхан яриа өрнүүлдэг Тин Вудман юм. Тэр ямар үед, яагаад гэнэт Терминатор болон хувирсан бэ? Энэ бол цэвэр хэвлэл мэдээллийн хэрэглүүр: айдас сайн зарагддаг тул роботтой холбоотой асуудлыг лекцийн гарчигт оруулах шаардлагатай болсон.

Энэ нь үнэхээр олон нийтийн сэтгэлгээнд юу болж байгааг харуулж байна. Саяхан ХАБЭА-аас судалгаа явуулсан бөгөөд энэ нь роботын субьектив байдал их байх тусам хүмүүс энэ нь субьектийн хувьд тэдэнд муу зүйл хийх вий гэж эмээдэг. Робот зүгээр л гэрийн ажил хийж эсвэл дэлгүүрээс бараа авчрах үед хэн ч түүнээс айдаггүй. Гэхдээ сувилагч, эмч нар, сурган хүмүүжүүлэгчид болон өөрөө жолооддог автомашины тухай ярихад ихэнх хүмүүс хүрээлэн буй орчиндоо туйлын эвгүй байх болно гэж маргадаг. Үүний зэрэгцээ, нэг сая км замыг туулсан ослын статистик мэдээгээр нисгэгчгүй онгоцууд автомашины осолд өртөх магадлал бага байгааг харуулж байна. Мэдээжийн хэрэг, хүмүүс зам тээврийн осолд өртөх болно, гэхдээ тэд бага нас барах болно - нэг сая хагасын оронд 300 мянган хүн. Жолооч нь согтуу хүн биш, харин төгс бус автомат нисгэгч байсан тул сая нь амьдрах болно.

Яагаад роботуудаас тайлбар шаардаж болохгүй гэж

Физикийн чиглэлээр Нобелийн шагналт Ричард Фейнман квант физикийг ямар ч физикч ойлгодоггүй гэж хэлсэн. Харамсалтай нь эсвэл азаар өнөөдөр хүн тайлбарлаж чадахгүй өөр олон зүйл тохиолдож байна.

Роботуудаас тайлбар шаардах нь дэмий (яагаад ийм шийдвэр гаргасан, яагаад машин удааширсан гэх мэт). Түүгээр ч барахгүй манай түүхийг эргэж харвал энэ нь огт логикгүй юм.

Жишээлбэл, 1853 онд нийлэгжсэн, 19-р зууны төгсгөлд Аспирин барааны тэмдгийн дор бүртгэгдсэн ацетилсалицилын хүчил өнөөдөр асар их хэмжээгээр - жилд 120 тэрбум шахмал хэрэглэж байна. Гэсэн хэдий ч, жишээлбэл, зүрхний өвчинд хэрэглэхтэй холбоотой түүний үйлдэл нь анагаах ухаанд өргөн хэрэглэгдэж эхэлснээс хойш 70 жилийн дараа л бага багаар тайлбарлагджээ.

Орчин үеийн эм зүйчид ноцтой өвчнийг эмчлэх орчин үеийн нарийн төвөгтэй эмүүд хэрхэн ажилладагийг хэн ч мэдэхгүй гэж хэлдэг. Өөрийгөө жолооддог машинд суухаас айдаг олон хүн 90% -д хэмнэлттэй эмийг хэрэглэхээс татгалзахыг би гайхаж байна, гэхдээ бид түүний үйл ажиллагааны механизмын талаар бараг юу ч мэдэхгүй байна вэ?

Тиймээс бид өдөр тутмын амьдралдаа ч гэсэн бидний эргэн тойронд болж буй бүх зүйлийг ойлгодоггүй. Машины сургалтыг өргөнөөр хэрэгжүүлэхийн өмнө роботуудаас өөрсдийн үйлдлээ тайлбарлахыг шаардах нь туйлын гэнэн хэрэг юм. Бид үүнийг одоогийн алгоритмуудаас хэрэгжүүлэхийг хичээж байгаа цагт квант компьютерууд гарч ирэх бөгөөд ойлгох найдвар огт байхгүй болно. Тиймээс ойлгохгүй байгаа зүйлээ хүлээн зөвшөөрч сурах нь дээр. Энэ нь роботууд бидэнд юу хийх вэ гэсэн асуултын хариулт биш юм. Хажууд чинь роботууд байвал яаж олсон бүхнээ сэтгэл судлаачдад зарцуулахгүй байх вэ гэсэн асуултын хариулт энэ юм.

Хиймэл оюун ухаанаар хэрхэн бүтээх вэ

Роботуудтай зэрэгцэн орших тухай дараагийн түүх нь ямар ч бүтээлч хүн ойлгоход зориулагдсан санаа юм - хамтдаа бүтээхэд сайхан байх хэн нэгнийг олох нь хичнээн хэцүү болохыг ойлгоход зориулагдсан болно. Үүнийг Оросын нэрт зураач, урлагийн онолч Дмитрий Булатов “Шинэ хэм хэмжээ бол дэлхий дахинд урлагаар халдварлуулахыг хүсвэл уургийн шовинизмээ зогсоох ёстой” гэж илүү хатуу хэлбэрээр томьёолжээ.

Бид (Яндекс. - T&P тэмдэглэл дээр) 2017 онд мэдрэлийн сүлжээгээр бичсэн хөгжмөөр зугаацаж эхэлсэн, - бидний бүтээсэн хөгжмийг анхны хөгжмийн зохиолч, Скрябины бүтээлч Мария Черновагийн шинжээч гэж хүлээн зөвшөөрсөн. Иван Ямщиковын хэлснээр мэдрэлийн сүлжээ дөрвөн минутын турш ижил нотыг тоглуулах дуртай бол яах вэ? Энэ нь инээд хөөрөөс өөр зүйл үүсгэхгүй байх гэж бодож байна ("зохиол гацсан"). Хэрэв бид үүнийг хүн зохион бүтээсэн гэж үзвэл маш олон тооны орчуулагчид тэр даруй гүйж ирэх бөгөөд энэ нь бидний амьдарч буй аймшигт зогсонги байдлын тухай санааг илэрхийлсэн гүн бодол гэдгийг тайлбарлаж эхэлнэ. Энэ бол тухайн бүтээлийг биш, харин бидэнд өгсөн нөхцөл байдлыг тайлбарлах тухай асуудал юм.

Өнөөдөр "Түүхээр дэмжигдсэн хувьсах автомат кодлогчтой хөгжим бий болгох" хэмээх математикийн өгүүллийн оршилд ч гэсэн түүний зохиогчид зөн совингийн эсвэл бүтээлч хандлагыг агуулсан даалгавруудыг эрт дээр үеэс зөвхөн хүн гэж үздэг байсан ч одоо улам олон алгоритмууд боломжтой болж, хөгжим зүгээр л нэг жишээ юм. Ийм ажлууд.

Хоёр жилийн дараа бид хамгийн том хөгжимчин Юрий Башметад зориулж хөгжим бичсэн (Яндекс компанийн бүтээсэн мэдрэлийн сүлжээ нь хөгжмийн зохиолч Кузьма Бодровтой хамтран виола болон найрал хөгжимд зориулсан бүтээл хийсэн. - T&P тэмдэглэл). Та энэ үйл явдлын талаар хүмүүст хэлэхэд тэд "Өө, бид ойлголоо! Мэдрэлийн сүлжээ нь ердийн даалгавруудыг сайн гүйцэтгэдэг гэж тэд хэлдэг, тиймээс хөгжмийн зохиолч тэр аяыг, бүтээлийн тухай гайхалтай санааг бүтээдэг бөгөөд мэдрэлийн сүлжээ нь найрал хөгжмийн бусад ажлыг хийж сурсан байх." Харин эсрэгээрээ. Хөгжмийн зохиолч Кузьма Бодров мэдрэлийн сүлжээ нь түүний бүрэн эрхт хамтран зохиогч болсон бөгөөд тэрээр хамгийн хэцүү зүйл болох эхийг бүтээсэн бөгөөд хожим нь өөр зүйл болж хувирсан гэж мэдэгджээ. Ядарч гутралгүй, санаанд оромгүй шинийг бүтээж чаддаг ийм зохиолчтой үргэлж хамт байгаасай гэж хүсдэг.

Мэдрэлийн сүлжээ ба физик байдал

Стругацкийн "Даваа гариг бямба гаригт эхэлдэг" номонд давхар гэж нэрлэгддэг байгууллагуудыг дүрсэлсэн байдаг: диктант, гэхдээ үүнийг хэрхэн сайн хийхийг хэн мэдэх билээ. […] Жинхэнэ мастерууд маш нарийн төвөгтэй, олон програмтай, бие даан суралцах боломжтой." Зохиолын нэг баатр нь өөр нэг баатрын оронд ийм зураг авалтыг машинаар явуулжээ. Давхар "Москвич"-ийг гайхалтай хөтөлж, "шумуулд хатгуулахдаа тангараглаж, найрал дуугаар баяртайгаар дуулжээ". Манай "Алис" одоохондоо үүнийг хийхгүй байгаа ч дахиад нэг хакатон эхэлнэ. Ухаалаг дасан зохицох системийг 1965 онд тодорхойлсон. Одоо тэд үнэхээр аль хэдийн бий болсон - цаасны хэсгүүдийг ялгаж салгах, шинэ аялгуу зохиох, хэвлэл мэдээллийн төлөвлөлт хийх гэх мэт илүү сайн байдаг. Энэ бол зөвхөн эхлэл юм.

Кевин Келлигийн "Зайлшгүй" номонд "Хамгийн чухал сэтгэн бодох машинууд нь хүнээс илүү хурдан, илүү сайн сэтгэдэг машинууд биш, харин хүмүүс хэзээ ч хийж чадахгүйгээр сэтгэж сурах болно" гэсэн сайхан хэллэг байдаг. Бид бүх насаараа нисэх санаагаа хэрэгжүүлж, далавчтай шувууг бий болгож, сайжруулж, зөвхөн томруулж, орчин үеийн материал ашиглан хийсэн мэт. Далавч нь ашиггүй сансар огторгуйд биднийг авч явах пуужингийн санаа зүгээр л гарч ирэхгүй байсан, учир нь энэ бүхэн эхэлсэн газраас огт өөр юм. Энэ нь хараахан ирээгүй байна - энэ хооронд бидэнд гайхалтай хамтран зохиогчид бий.

Бид хиймэл оюун ухааны тухай ярьж, машин биднийг орлох вий гэж эмээх үед хүн ба оюун ухаан нь бараг ижил утгатай, нэг төрлийн сольж болох мөн чанар гэж үргэлж итгэдэг. Энэ үнэн биш. Би Стругацкихын хэлсэн үгийг дахин иш татъя: "Би хүн хэвээр байгаа бөгөөд бүх амьтан надад харь биш юм." Мэдрэлийн сүлжээний тусламжтайгаар бид дэлгэцэн дээр сайхан бүжиглэж сурсан ч энэ нь биднийг бүжиглэхээс жинхэнэ сэтгэл хөдөлгөх хүмүүс болгож чадахгүй. Бие бялдар нь оюун ухаантай адил чухал юм. Одоог хүртэл бид алгоритмыг хэрхэн яаж хийхийг ойлгохгүй байгаа бөгөөд энэ нь бидэнтэй адил бүх амьтанд харь биш юм.