Alqoritm uğursuz oldu: süni intellekt insan taleyini məhv edə bilər

Aktual

20.11.2026 - 15:40

Süni intellekt qərarlar qəbul edə bilər, amma... - İnsanın taleyinə görə məsuliyyət daşımaq hüququ ona verilməməlidir

Dünya tədricən elə bir dövrə qədəm qoyur ki, insanın taleyi getdikcə daha çox məmurla şəxsi görüşlə, mütəxəssisin rəyi ilə, hətta insan qərarı ilə deyil, milyonlarla məlumat nöqtəsini bir neçə saniyə ərzində təhlil edən riyazi modellə müəyyən edilə bilər. Süni intellekt artıq sadəcə məlumat axtarmaq, şəkillər yaratmaq və ya ofis işini avtomatlaşdırmaq üçün bir vasitə deyil. O, bankçılıq, tibb, təhsil, dövlət idarəçiliyi, kadr seçimi, sığorta və təhlükəsizlik sahələrinə nüfuz edir. Bu gün alqoritm vətəndaşın kredit qabiliyyətini qiymətləndirə, müəyyən bir xəstəliyin olma ehtimalını müəyyən edə, iş namizədlərini seçə və ya şübhəli maliyyə əməliyyatlarını müəyyən edə bilər. İlk baxışdan bu, texnoloji irəliləyiş kimi görünür, xərclərin azaldılmasına, daha sürətli xidmət göstərməyə və insan səhvlərinin təsirini azaltmağa imkan verir. Lakin səmərəlilik vədinin arxasında daha ciddi bir sual dayanır: maşın səhv edərsə və bu səhv üzündən insan pulunu, işini, tibbi yardımını və ya qanuni hüququnu həyata keçirmək imkanını itirərsə nə baş verər?

Ən böyük təhlükə süni intellektin mütləq obyektivlik təəssüratı yarada bilməsidir. Məmur səhv edə, qərəzli mövqe tuta, sənədləri səhv qiymətləndirə və ya şəxsi şəraitdən təsirlənərək qərarlar qəbul edə bilər. Lakin vətəndaşlar ən azından məmuru görmək, izahat tələb etmək, rəhbərliyə müraciət etmək və ya onların hərəkətlərinə etiraz etmək imkanına malikdirlər. Alqoritmlə vəziyyət daha mürəkkəbdir. Bir şəxs imtina, qeyri-kafi reytinq bildirişi və ya mənfi nəticə alır, lakin çox vaxt bu nəticəyə səbəb olan konkret məlumatları bilmir. Bəlkə də sistem köhnəlmiş məlumatlardan istifadə edib, məlumatları səhv müqayisə edib və ya orijinal verilənlər bazasında mövcud olan ayrı-seçkilik nümunələrini təkrarlayıb. Başqa sözlə, süni intellekt insan səhvini mütləq aradan qaldırmır: onu gücləndirə, tək bir ədalətsizliyi geniş yayılmış problemə çevirə bilər.

Maliyyə sektoru xüsusilə həssasdır. Təsəvvür edin ki, bankda ipoteka üçün müraciət edən bir vətəndaş var. Onun gəliri sabitdir, ödənilməmiş borcu yoxdur və sənədlər düzgün şəkildə doldurulub, lakin avtomatlaşdırılmış sistem müraciəti rədd edir. Bank işçisi qərarın daxili risk qiymətləndirməsinə əsasən verildiyini bildirir. Bəs rəddə dəqiq nə səbəb oldu? Aşağı rəqəmsal kredit reytinqi, konkret maliyyə tarixçəsi, yaşayış yeri, əvvəlki əməliyyatların xarakteri və ya üçüncü tərəf məlumat bazasından səhv məlumatlar? Hətta bankın mütəxəssisi belə nəticəni aydın şəkildə izah edə bilmirsə, vətəndaş faktiki olaraq seçimlərini məhdudlaşdıran görünməz bir mexanizmlə qarşılaşır. Sığorta üçün müraciət edərkən, şübhəli əməliyyatları yoxlayarkən və ya xidmət şərtlərini müəyyən edərkən oxşar vəziyyət yarana bilər. Nəticədə, alqoritm formal olaraq heç kim onları müstəqil qərar qəbul etmək hüququndan məhrum etməsə də, insanın maliyyə perspektivlərinə təsir göstərməyə başlayır.

Nəticələr tibbdə daha ciddi ola bilər. Süni intellekt tibbi görüntüləri təhlil edə, simptomları müqayisə edə, nümunələri aşkarlaya və həkimlərə xəstəlikləri erkən mərhələlərdə aşkar etməyə kömək edə bilər. Lakin köməkçi texnologiya və yekun tibbi qərar tamamilə fərqli şeylərdir. Sistem xətası xəstəliyin aşkarlanmamasına, xəstəyə lazımsız müayinənin təyin olunmasına və ya əksinə, zəruri müalicənin təxirə salınmasına səbəb ola bilər. Hüquqi cəhətdən mürəkkəb bir sual yaranır: nəticələrə görə kim məsuliyyət daşıyır - proqram təminatı hazırlayıcısı, tibb müəssisəsi, avadanlıq təchizatçısı, yoxsa alqoritmin tövsiyəsinə etibar edən həkim? Aydındır ki, əgər həkim bir müəssisə tərəfindən təmin edilmiş sertifikatlaşdırılmış alətdən istifadə edirsə, bütün məsuliyyəti avtomatik olaraq həkimə həvalə etmək mümkün deyil. Bununla belə, tibb işçisini xəstənin vəziyyətini müstəqil şəkildə qiymətləndirmək üçün peşəkar məsuliyyətindən azad etmək eyni dərəcədə qəbuledilməzdir. Texnologiya insan səriştəsini artırmalıdır, peşəkar mühakimənin əvəzedicisi olmamalıdır.

Əmək bazarı eyni dərəcədə təhlükəli bir sahəyə çevrilir. Şirkətlər getdikcə CV-ləri emal etmək, namizədləri qiymətləndirmək və peşəkar xüsusiyyətləri təhlil etmək üçün avtomatlaşdırılmış vasitələrdən istifadə edirlər. Alqoritm dəqiqələr ərzində minlərlə müraciəti çeşidləyə bilər, lakin karyerası qeyri-ənənəvi şəkildə inkişaf etmiş birini obyektiv şəkildə qiymətləndirə bilərmi? Məsələn, əlli yaşdan yuxarı bir mütəxəssis geniş təcrübəyə malik ola bilər, lakin sistemin etibar etdiyi xüsusi rəqəmsal şablonlara uyğun gəlmir. Karyerasında fasilə olan namizəd, fasilənin səbəbi ailə vəziyyəti və ya qohumlarına qayğı göstərməsi olsa da, aşağı reytinq ala bilər. İlkin məlumatlarda qərəzlər varsa, alqoritm onları davam etdirə və ayrı-seçkilik yarada bilər.

Qərar neytral riyazi hesablamanın nəticəsidir. Belə bir vəziyyətdə işəgötürənin imtinasına artıq yalnız adi kadr qərarı kimi baxmaq olmaz: texnologiyanın gizli bir filtrə çevrilib-çevrilmədiyini və insanların peşəkar imkanlara çıxışını məhdudlaşdırıb-məhdudlaşdırmadığını anlamaq vacibdir.

Süni intellekt sosial xidmətlərin göstərilməsində, dövlət resurslarının paylanmasında, immiqrasiya nəzarətində və ictimai təhlükəsizlikdə istifadə edildikdə dövlət xüsusi məsuliyyət daşıyır. Avtomatlaşdırılmış sistemin vətəndaşı səhvən yüksək riskli kimi müəyyən etdiyi, sənədlərinin işlənməsini gecikdirdiyi və ya müəyyən bir dövlət xidmətinə çıxışı məhdudlaşdırdığı bir vəziyyəti nəzərdən keçirin. Dövlət qurumu üçün belə bir nəticə adi texniki əməliyyat kimi görünə bilər, lakin fərd üçün ciddi nəticələrə səbəb ola bilər. Burada rəqəmsallaşmanın arxasında məsul şəxsi tapmağın mümkün olmadığı yeni bir inzibati divar yaratmaması vacibdir. Əgər qərar vətəndaşın hüquqlarına və qanuni maraqlarına təsir edirsə, onlar avtomatlaşdırılmış sistemin istifadə olunub-olunmadığını, nəticəyə hansı halların təsir etdiyini və hara müraciət edəcəklərini öyrənə bilməlidirlər. Effektiv dövlət idarəçiliyi yalnız işlənmiş müraciətlərin sayı ilə ölçülmür: qanuniliyi, ədalətliliyi və səhvləri düzəltmək qabiliyyətini təmin etməlidir.

Beynəlxalq təcrübə artıq göstərir ki, dövlətlər bu problemin miqyasını anlamağa başlayırlar. Avropa Birliyində Süni İntellekt Qanununun (Sİ Qanunu) əsas müddəaları 2 avqust 2026-cı ildə qüvvəyə minib. Qanun sistemlərin riskə görə təsnifatını, müəyyən təhlükəli təcrübələrə məhdudiyyətləri, şəffaflıq tələblərini və nəzarət mexanizmlərini nəzərdə tutur. Ən əsası, təhsil, məşğulluq, biometrik məlumatlar və kritik infrastruktur sistemləri də daxil olmaqla bir sıra yüksək riskli tətbiqlər üçün xüsusi tələblərin tətbiqi 2 dekabr 2027-ci ilə təxirə salınıb; tənzimlənən məhsullara daxil edilmiş müəyyən sistemlər üçün son tarix 2 avqust 2028-ci ildir. Beləliklə, Avropa texnoloji innovasiyanı vətəndaşların hüquqlarının qorunması ilə birləşdirməyə çalışır, baxmayaraq ki, qanunvericiliyin mövcudluğu belə hər bir qurbanın tez bir zamanda ədalət əldə edə biləcəyinə zəmanət vermir. Birləşmiş Krallıq öz növbəsində avtomatlaşdırılmış hökumət qərarları üçün tövsiyələrində alqoritm sınaqlarının, məsuliyyətlərin aydın şəkildə bölüşdürülməsinin və texnologiyadan istifadənin nəticələrini vətəndaşlara izah etmək qabiliyyətinin zəruriliyini vurğulayır.

Bu mövzu Azərbaycan üçün xüsusi əhəmiyyət kəsb edir, çünki ölkə artıq öz süni intellekt tənzimləmə sistemini inkişaf etdirməyə başlayıb. Azərbaycan Respublikasının 2025-2028-ci illər üçün Süni İntellekt İnkişaf Strategiyası dövlət idarəçiliyinin təkmilləşdirilməsini, məlumat infrastrukturunun inkişaf etdirilməsini, mütəxəssislərin hazırlanmasını, şəxsi məlumatların qorunmasını və alqoritmik qərəzliliyin qarşısının alınmasını nəzərdə tutur. Bundan əlavə, 8 oktyabr 2026-cı ildə Rəqəmsal İnkişaf və Nəqliyyat Nazirliyi Nazirlər Kabinetinin "Məsuliyyətli və Etik Süni İntellekt Sistemləri üçün Tələblər" adlı qərar layihəsinin hazırlandığını elan etdi. Sənəd müvafiq dövlət qurumları ilə yenidən təsdiqlənmə mərhələsindədir. Eyni zamanda, süni intellektin dizaynı, tətbiqi və istifadəsi zamanı şəxsi məlumatlara qarşı risklərin müəyyən edilməsi və qarşısının alınması qaydaları hazırlanır. Bu, vacib bir addımdır, lakin indi ümumi prinsiplərdən praktik təminatlara keçməliyik: alqoritmin səhv qərarına görə kim məsuliyyət daşıyacaq? Vətəndaş ona necə etiraz edə bilər və dəymiş ziyanı kim kompensasiya etməlidir?

Bu, sadəcə insanların "döngədə" qalmasını tələb etməklə həll edilə bilməyən fundamental bir problem yaradır. Təsdiq düyməsini basan bir işçinin sadəcə iştirakı mütləq real insan nəzarəti demək deyil. Əgər mütəxəssis sistemin niyə müəyyən bir tövsiyə verdiyini başa düşmürsə, lazımi məlumatlara çıxışı yoxdursa və ya nəticəni dəyişdirə bilmirsə, onun iştirakı formallığa çevrilir. Beynəlxalq tədqiqatlar artıq sözdə avtomatlaşdırma qərəzini vurğulayır: insanlar maşın tövsiyələrinə hətta onların dəqiqliyini müstəqil şəkildə yoxlamalı olduqları halda belə etibar etməyə meyllidirlər. İqtisadi Əməkdaşlıq və İnkişaf Təşkilatı alqoritmlərin insan qərarları, giriş məlumatlarının keyfiyyəti və model parametrləri ilə formalaşdığını vurğulayır. Avropa Məlumatların Mühafizəsi Təşkilatı həmçinin qeyri-şəffaf sistemlər probleminə də diqqət çəkir. Burada hətta mütəxəssislər belə müəyyən bir nəticənin arxasındakı məntiqi izah etməkdə çətinlik çəkirlər. Ona görə də, məsuliyyət faktiki məsuliyyətlərindən və törədilən hər hansı bir pozuntudan asılı olaraq, tərtibatçı, sistem operatoru və qərar qəbul etmək üçün ondan istifadə edən təşkilat arasında bölüşdürülməlidir.

Bu, qərarlarının təsdiqlənməsi, etiraz edilməsi və ya ləğv edilməsi mümkün olmayan yeni bir idarəetmə formasına çevrilə bilər. Texnologiya insanlardan daha sürətli ola bilər, çoxlu miqdarda məlumatı təhlil edə və adi mütəxəssislər üçün əlçatmaz olan nümunələri aşkar edə bilər. Lakin onun hüquqi məsuliyyəti, insan ləyaqəti və müəyyən bir ailə üçün səhv qərarın dəyərini anlamaq qabiliyyəti yoxdur. Ona görə də rəqəmsal dövlətin gələcəyi süni intellekti nə qədər geniş tətbiq etməsindən deyil, insanları səhvlərindən nə qədər etibarlı şəkildə qorumasından asılıdır. Azərbaycan öz süni intellekt tənzimləmə sistemini inkişaf etdirdikcə, hesabatlılıq, müstəqil audit, şəxsi məlumatların qorunması və vətəndaşların hüquqlarına təsir edən qərarların məcburi şəkildə nəzərdən keçirilməsi qaydalarını əvvəlcədən müəyyən etmək vacibdir. Əks təqdirdə, bir gün bir şəxs bankdan, xəstəxanadan və ya dövlət qurumundan onları rədd edən təşkilatın deyil, alqoritmin olduğunu eşidə bilər. Lakin alqoritm son səlahiyyətli ola bilməz. Hər bir texnoloji qərar hərəkətlərini izah edə və nəticələrə görə cavabdeh ola bilən konkret şəxslər və qurumlar tərəfindən dəstəklənməlidir. Süni intellekt qərarlar qəbul edə bilər, lakin insanın taleyinə görə məsuliyyət daşımaq hüququ ona verilməməlidir.

Müəllif: Aqil Qəhrəmanov

Pin up casino Pin-up casino giriş