Алгоритъмът не е съдия: силните и слабите страни на СИГМА

С представянето на СИГМА правителството поставя амбициозна цел – технологиите да се превърнат в съюзник на контрола върху публичните средства.

Представената от премиера Румен Радев система СИГМА е сред проектите, които още с обявяването си предизвикаха както сериозни очаквания, така и немалко въпроси. Според правителството платформата трябва да се превърне в нов инструмент за наблюдение на обществените поръчки и разходването на публични средства, използвайки анализ на големи масиви от данни и технологии с елементи на изкуствен интелект.

Амбицията не е малка. От години темата за прозрачността на обществените поръчки е сред най-чувствителните за българското общество. Независимо коя политическа сила е управлявала, съмненията за непрозрачни процедури, ограничена конкуренция и неефективен контрол върху публичния ресурс никога не са изчезвали напълно. Именно на този фон се появява СИГМА – система, която обещава да помогне на държавата да открива по-бързо рискове и съмнителни зависимости.

Доколко обаче подобна технология може реално да промени начина, по който се упражнява контролът върху обществените поръчки?

Идеята зад проекта

Според представената концепция СИГМА ще обединява информация от различни публични регистри и информационни системи, които в момента функционират отделно една от друга. Вместо данните да бъдат разпилени между институции, те ще се обработват в единна аналитична среда.

На практика това означава, че платформата ще събира информация за възложители, изпълнители, договори, стойности на поръчките и други показатели, след което ще търси връзки и закономерности между тях. Ако бъдат открити необичайни модели, системата ще може да генерира сигнали за допълнителна проверка.

Правителството посочва, че сред основните функции ще бъдат автоматичното откриване на рискови процедури, проследяването на връзки между компании и физически лица, идентифицирането на необичайно високи цени и засичането на концентрация на обществени поръчки в ограничен кръг фирми.

Само по себе си това не е революционна идея. Подобни аналитични инструменти се използват от години в различни сфери – от финансовия сектор до системите за противодействие на измами. Новото в случая е опитът тези подходи да бъдат приложени по-мащабно към обществените поръчки.

Най-голямото предимство – събирането на разпокъсаната информация

Ако има една част от проекта, която заслужава особено внимание, това е именно идеята за централизиране на данните.

В момента значителна част от информацията за обществените поръчки съществува в различни регистри, платформи и институционални бази данни. Формално тя е публична, но на практика често е трудна за проследяване и анализиране. За журналисти, неправителствени организации и дори за самите контролни органи това създава сериозни затруднения.

Затова евентуалният успех на СИГМА може да се окаже свързан не толкова с изкуствения интелект, колкото със способността на системата да подреди и свърже информация, която днес е разпръсната между различни институции.

Когато данните бъдат поставени в общ контекст, често стават видими зависимости, които иначе остават скрити. Именно тук технологията има потенциал да бъде полезна.

Какво може да открива една подобна система

Голямото предимство на автоматизирания анализ е способността му да обработва обеми информация, които биха били практически невъзможни за преглед от ограничен брой служители.

Това дава възможност да бъдат откривани определени модели на поведение. Например случаи, при които една компания печели необичайно голям брой поръчки от конкретен възложител. Или процедури, при които конкуренцията системно е минимална. В други ситуации вниманието може да бъде насочено към договори със стойности, които значително се отклоняват от средните за съответния сектор.

Подобни индикации сами по себе си не доказват нарушение, но могат да бъдат полезен ориентир за институциите. Вместо да проверяват огромен брой процедури без ясен приоритет, те биха могли да концентрират усилията си върху случаите с най-висок риск.

Точно тук се крие практическата стойност на подобни системи – не в замяната на контрола, а в по-доброто му насочване.

По-голяма прозрачност или просто повече данни?

Една от най-често подчертаваните цели на СИГМА е повишаването на прозрачността.

Това звучи убедително, но има важна подробност. Прозрачността не се измерва само с количеството публикувана информация. Тя зависи и от това доколко данните са разбираеми и достъпни за обществото.

Ако резултатите от анализа бъдат представени по ясен начин, платформата действително може да улесни работата на журналисти, граждански организации и независими наблюдатели. Ако обаче системата генерира огромни масиви от сложна информация без достатъчно обяснения и контекст, ефектът може да се окаже значително по-ограничен.

Затова успехът на проекта ще зависи не само от алгоритмите, но и от начина, по който информацията достига до обществото.

Ограниченията, които технологията не може да преодолее

Колкото и амбициозна да е една система, тя не може да реши сама проблеми, които по своята същност са институционални.

Най-важното уточнение е, че изкуственият интелект не е способен да доказва корупция. Той може да открива съмнителни модели и статистически отклонения, но не може да установи дали е имало подкуп, договорка между участници, политически натиск или злоупотреба със служебно положение.

Тези въпроси продължават да изискват разследване, събиране на доказателства и правна оценка.

С други думи, системата може да посочи къде да се търси проблем, но не може сама да докаже, че такъв съществува.

Рискът от грешни сигнали

Друг неизбежен проблем е свързан с точността на анализа.

Всеки алгоритъм работи на базата на вероятности и предварително зададени критерии. Това означава, че ще има случаи, в които напълно законни процедури ще бъдат определяни като рискови. Ще има и обратни ситуации, при които реални нередности няма да бъдат засечени навреме.

Подобни грешки не са нещо необичайно за аналитичните системи. Въпросът е доколко механизмите за проверка и корекция ще успяват да ограничават техния ефект.

Затова е важно генерираните сигнали да се разглеждат като начална точка за проверка, а не като окончателно заключение.

Качеството на данните остава решаващо

Има една стара максима в света на информационните технологии: ако входните данни са проблемни, резултатът също ще бъде проблемен.

СИГМА не прави изключение.

Ако различните институции подават непълна, неточна или закъсняла информация, възможностите на системата неизбежно ще бъдат ограничени. Дори най-добрият алгоритъм не може да компенсира липсващи данни или административни пропуски.

Затова реалното функциониране на платформата ще зависи в голяма степен от дисциплината и качеството на работата в институциите, които я захранват с информация.

Въпросът за прозрачността на самата система

Любопитно е, че проект, който поставя акцент върху прозрачността, сам по себе си все още оставя редица въпроси без публичен отговор.

Засега липсва достатъчно подробна информация за използваните модели, критериите за оценка на риска, механизмите за независим одит и процедурите за контрол върху работата на алгоритмите.

Това не означава автоматично, че има проблем. Но означава, че обществото все още няма достатъчно основания да оцени доколко надеждни са инструментите, на които системата ще разчита.

Колкото по-голямо влияние има една подобна платформа върху публичния живот, толкова по-важна става прозрачността на нейното функциониране.

Истинският тест предстои

СИГМА безспорно е амбициозен проект. Ако бъде реализирана успешно, системата може да улесни работата на контролните институции, да подобри достъпа до информация и да помогне за откриването на рискови практики, които днес често остават незабелязани.

Същевременно би било грешка тя да бъде представяна като универсално решение на проблема с корупцията. Историята показва, че технологиите могат да подпомагат институциите, но не могат да ги заместят. Една платформа може да посочва подозрителни модели, но не може сама да провежда проверки, да налага санкции или да постановява справедливост.

В крайна сметка съдбата на СИГМА няма да зависи толкова от нейните алгоритми, колкото от това дали сигналите, които генерира, ще бъдат последвани от реални действия. Ако това се случи, проектът може да се превърне в значима стъпка към по-добър контрол върху публичните средства. Ако не се случи, системата рискува да остане поредната добре звучаща технологична инициатива, чийто ефект остава основно на хартия. І БГНЕС

--------

Анализът е направен от Отдел "Вътрешна информация" на Агенция БГНЕС.

Последвайте ни и в google news бутон