Гүн хуурамч: Neuroset-д дуу, дүрс бичлэгийг хуурамчаар бүтээхийг заасан

2024 Зохиолч: Seth Attwood | [email protected]. Хамгийн сүүлд өөрчлөгдсөн: 2023-12-16 16:12

Бидний хэн нэгнийх нь хувьд мэдээний "хувь хүний" дүр зургийг бий болгож, түүн дээр сонгогдсон хэвлэл мэдээллийн хэрэгслээр гарсан мэдээг хуурамчаар гаргахад өнөөдөр нэг програмистын хүчин чармайлт хангалттай. Энэ тухай “Известия” сонинд хиймэл оюун ухаан, кибер аюулгүй байдлын мэргэжилтнүүд хэлжээ.

Саяхан тэд үүнд олон баг ажиллах шаардлагатай гэж тооцоолсон. Мэдрэлийн сүлжээнд халдлага хийх технологийг хөгжүүлж, "гүн хуурамч" үүсгэх программуудыг ашиглан дуу, видеог хуурамчаар бий болгосноор ийм хурдасгах боломжтой болсон. Саяхан "Известия" сонин ийм халдлагад өртөж, Ливийн гурван мэдээллийн портал нэг дугаарт гарсан гэх мессежийг нэгэн зэрэг нийтэлжээ. Мэргэжилтнүүдийн үзэж байгаагаар 3-5 жилийн дотор робот манипуляторууд довтолж, автоматаар маш олон хуурамч зүйлийг бүтээх боломжтой болно.

Зоригтой шинэ ертөнц

Мэдээллийн дүр төрхийг тодорхой хэрэглэгчдийн ойлголтод тохируулдаг төслүүд улам олон болж байна. Тэдний ажлын нэг жишээ бол 11-р сарын 20-ны өдрийн Известия сонинд нийтлэгдсэн гэх мэдээг нийтэлсэн Ливийн гурван портал саяхан хийсэн үйлдэл юм. Хуурамч бичгийг бүтээгчид сонины нүүр хуудсыг өөрчилж, фельдмаршал Халифа Хафтар, Үндэсний зөвшилцлийн засгийн газрын (PNS) Ерөнхий сайд Файез Сарраж нарын хэлэлцээний тухай мессежийг нийтэлжээ. "Известия" үсгийн хуурамч үсгийн хамт хоёр удирдагчийн 2017 оны тавдугаар сард авахуулсан зураг байсан. Хэвлэлийн лого бүхий шошгыг 11-р сарын 20-нд хэвлэгдсэн бодит дугаараас хассан бөгөөд хуудсан дээрх бусад бүх бичвэрийг 10-р сарын 23-ны дугаараас хасав.

Мэргэжилтнүүдийн үзэж байгаагаар ойрын ирээдүйд ийм хуурамч үйлдлийг автоматаар хийх боломжтой.

"Хиймэл оюун ухааны технологиуд бүрэн нээгдэж, мэдээлэл хүлээн авах, боловсруулах төхөөрөмж нь жижгэрч, хямдарч байна" гэж Физик-математикийн шинжлэх ухааны доктор, ОХУ-ын ШУА-ийн профессор, "ГосНИИАС"-ийн FSUE-ийн хэлтсийн дарга Юрий Вилситер хэлэв. гэж Известияд хэлэв. -Тиймээс ойрын ирээдүйд төр, томоохон корпорацууд ч биш, зүгээр л нэг хувь хүмүүс биднийг чагнаж, тагнаж, бодит байдлыг залилан мэхлэх магадлал өндөр байна. Ирэх жилүүдэд хэрэглэгчдийн хүсэл сонирхолд дүн шинжилгээ хийснээр түүнд мэдээллийн сувгууд болон маш ухаалаг хуурамч мэдээллээр нөлөөлөх боломжтой болно.

Юрий Вилситерийн хэлснээр сэтгэцийн орчинд ийм хөндлөнгийн оролцоог ашиглаж болох технологиуд аль хэдийн бий. Онолын хувьд робот роботуудын халдлага хэдхэн жилийн дараа гарч магадгүй гэж тэр хэлэв. Энд хязгаарлагдмал зүйл бол урт хугацааны үр дагаврыг хянах замаар хиймэл өдөөлтөд бодит хүмүүсийн хариу үйлдэл үзүүлэх жишээнүүдийн томоохон мэдээллийн санг цуглуулах хэрэгцээ байж болох юм. Зорилтот халдлагыг тогтмол олж авахын өмнө ийм хяналт тавихад хэдэн жилийн судалгаа шаардлагатай болно.

Алсын харааны халдлага

SearchInform-ийн аналитик хэлтсийн дарга Алексей Парфентьев мөн Юрий Вилситертэй санал нэг байна. Түүний хэлснээр, мэргэжилтнүүд мэдрэлийн сүлжээнд халдахыг аль хэдийн таамаглаж байсан ч одоо ийм жишээ бараг байхгүй байна.

- Гартнерийн судлаачид 2022 он гэхэд нийт кибер халдлагын 30% нь мэдрэлийн сүлжээг сургаж буй өгөгдлийг эвдэх, машин сургалтын бэлэн загваруудыг хулгайлахад чиглэнэ гэж үзэж байна. Дараа нь, жишээлбэл, нисгэгчгүй машинууд гэнэт явган зорчигчдыг бусад объект гэж андуурч эхэлдэг. Мөн бид санхүүгийн болон нэр хүндийн эрсдэлийн тухай ярихгүй, харин жирийн хүмүүсийн амь нас, эрүүл мэндийн тухай шинжээчид үзэж байна.

Одоо судалгааны нэг хэсэг болгон компьютерийн харааны системд халдаж байна. Ийм халдлагын зорилго нь мэдрэлийн сүлжээг дүрсэнд байхгүй зүйлийг илрүүлэх явдал юм. Эсвэл эсрэгээрээ юу төлөвлөж байсныг харахгүй байх.

Касперскийн лабораторийн вэб шинжээч Владислав Тушканов Мэдрэлийн сүлжээг сургах чиглэлээр идэвхтэй хөгжиж буй сэдвүүдийн нэг бол дайсагнасан довтолгоонууд юм. - Ихэнх тохиолдолд тэдгээр нь компьютерийн харааны системд чиглэгддэг. Ийм халдлагыг хийхийн тулд ихэнх тохиолдолд мэдрэлийн сүлжээнд (цагаан хайрцагны халдлага гэж нэрлэгддэг) эсвэл түүний ажлын үр дүнд (хар хайрцагны халдлага) бүрэн нэвтрэх шаардлагатай болдог. Компьютерийн харааны системийг 100% хуурах арга байхгүй. Нэмж дурдахад мэдрэлийн сүлжээг дайсагнасан дайралтанд тэсвэртэй эсэхийг шалгах, эсэргүүцлийг нэмэгдүүлэх боломжийг олгодог хэрэгслүүд аль хэдийн бүтээгдсэн.

Ийм халдлагын явцад халдагч мэдрэлийн сүлжээ ажиллахгүйн тулд ямар нэгэн байдлаар хүлээн зөвшөөрөгдсөн дүрсийг өөрчлөхийг оролддог. Ихэнхдээ гэрэл муутай өрөөнд гэрэл зураг авах үед гардагтай адил чимээ шуугиантай байдаг. Хүн ихэвчлэн ийм хөндлөнгийн оролцоог сайн анзаардаггүй ч мэдрэлийн сүлжээ буруу ажиллаж эхэлдэг. Гэхдээ ийм халдлагыг хийхийн тулд халдагч алгоритм руу нэвтрэх шаардлагатай.

Нейросет Ашмановын ерөнхий захирал Станислав Ашмановын хэлснээр одоогоор энэ асуудлыг шийдвэрлэх арга байхгүй байна. Нэмж дурдахад энэ технологийг хэн ч ашиглах боломжтой: дундаж програмист Github үйлчилгээнээс шаардлагатай нээлттэй эхийн програм хангамжийг татаж авах замаар үүнийг ашиглах боломжтой.

"Мэдрэлийн сүлжээнд халдлага нь мэдрэлийн сүлжээг хууран мэхлэх арга техник, алгоритмууд бөгөөд энэ нь хуурамч үр дүнд хүргэдэг бөгөөд үнэн хэрэгтээ үүнийг хаалганы түгжээ шиг эвддэг" гэж Ашманов үзэж байна. -Жишээ нь, одоо нүүр таних системийг урд нь та биш, харин Арнольд Шварцнеггер байна гэж ойлгуулах нь маш амархан болсон - үүнийг мэдрэлийн сүлжээнд ирж буй өгөгдөлд хүний нүдэнд үл анзаарагдах нэмэлт бодисуудыг холих замаар хийдэг. Яриа таних, дүн шинжилгээ хийх системд ижил халдлага хийх боломжтой.

Мэргэжилтэн энэ нь улам дордох болно гэдэгт итгэлтэй байна - эдгээр технологиуд олон нийтэд хүрсэн, луйварчид аль хэдийн ашиглаж байгаа бөгөөд тэдгээрээс хамгаалах ямар ч хамгаалалт байхгүй. Видео болон аудиог хуурамчаар үйлдэх автоматаар үүсгэхээс хамгаалах хамгаалалт байхгүй тул.

Гүн хуурамч

Deep Learning (мэдрэлийн сүлжээг гүнзгий судлах технологи. - Известия) дээр суурилсан Deepfake технологиуд аль хэдийн бодит аюул заналхийлж байна. Видео эсвэл аудио хуурамч нь шаардлагатай текстийг дуудаж, хуйвалдаан дээр шаардлагатай үүрэг гүйцэтгэдэг алдартай хүмүүсийн царайг засварлах эсвэл давхарлах замаар бүтээдэг.

"Deepfake нь уруулын хөдөлгөөн, хүний яриаг видеогоор солих боломжийг олгодог бөгөөд энэ нь болж буй үйл явдлыг бодитоор мэдрэх мэдрэмжийг төрүүлдэг" гэж Group-IB-ийн шинэлэг брэндийг хамгаалах, оюуны өмчийн газрын захирал Андрей Бусаргин хэлэв. - Хуурамч одууд нийгмийн сүлжээн дэх хэрэглэгчдэд үнэ цэнэтэй шагнал (ухаалаг утас, машин, мөнгө) сугалаанд оролцохыг "санал болгодог". Ийм видео нийтлэлийн холбоосууд нь ихэвчлэн залилан мэхлэх, фишинг сайтууд руу хөтөлдөг бөгөөд хэрэглэгчид хувийн мэдээлэл, тэр дундаа банкны картын дэлгэрэнгүй мэдээллийг оруулахыг хүсдэг. Ийм схем нь энгийн хэрэглэгчид болон сурталчилгаанд дурдсан олон нийтийн зүтгэлтнүүдэд аюул учруулдаг. Энэ төрлийн луйвар нь алдартнуудын зургийг луйвар эсвэл сурталчилсан бараатай холбож эхэлдэг бөгөөд энд л бид хувийн брэндэд хохирол учруулдаг гэж тэр хэлэв.

Өөр нэг аюул нь утсаар залилан мэхлэх зорилгоор "хуурамч санал" ашигласантай холбоотой юм. Жишээлбэл, Германд кибер гэмт хэрэгтнүүд Их Британийн охин компанийн даргатай утсаар ярихдаа 220,000 еврог яаралтай шилжүүлэхийн тулд дуу хоолойны гүнийг хуурамчаар үйлдэж, өөрийгөө компанийн менежер гэж танилцуулсан байна. Унгарын ханган нийлүүлэгчийн дансанд. "Дарга" нь хоёр дахь удаагаа мөнгө гуйвуулахыг хүсэхэд Британийн пүүсийн дарга заль мэхийг сэжиглэж байсан ч Австри дугаараас дуудлага иржээ. Энэ үед эхний транш Унгар дахь данс руу аль хэдийн шилжсэн бөгөөд тэндээс мөнгөө Мексик рүү татсан байна.

Өнөөгийн технологиуд нь хуурамч мэдээгээр дүүрсэн хувийн мэдээний зургийг бүтээх боломжийг олгодог. Түүгээр ч зогсохгүй удахгүй зөвхөн техник хангамжаар л хуурамч дүрсийг жинхэнэ дүрс бичлэг, аудиог ялгах боломжтой болно. Мэргэжилтнүүдийн үзэж байгаагаар мэдрэлийн сүлжээг хөгжүүлэхийг хориглох арга хэмжээ үр дүнтэй байх магадлал багатай юм. Тиймээс бид удахгүй бүх зүйлийг байнга шалгаж байх шаардлагатай ертөнцөд амьдрах болно.

"Бид үүнд бэлтгэх хэрэгтэй, үүнийг хүлээн зөвшөөрөх ёстой" гэж Юрий Вилситер онцлон тэмдэглэв. - Хүн төрөлхтөн нэг бодит байдлаас нөгөөд шилжиж байгаа анхны тохиолдол биш. Бидний өвөг дээдсийн 60,000, 5,000, 2000, тэр байтугай 200-100 жилийн өмнө амьдарч байсан ертөнцөөс бидний ертөнц, амьдралын хэв маяг, үнэт зүйлс эрс ялгаатай. Ойрын ирээдүйд хүн хувийн нууцаас ихээхэн хасагдах тул юу ч нуулгүй, шударга ажиллахаас өөр аргагүй болно. Үүний зэрэгцээ, хүрээлэн буй бодит байдал болон өөрийн хувийн шинж чанарт юу ч итгэл үнэмшилд автагдах боломжгүй тул бүх зүйлийг эргэлзэж, байнга шалгаж байх шаардлагатай болно. Гэхдээ энэ ирээдүйн бодит байдал аймшигтай байх болов уу? Үгүй Энэ нь зүгээр л огт өөр байх болно.