Anthropic пусна най-новите си модели на генеративен изкуствен интелект (GenAI) Claude, като заяви, че поставя нови стандарти за разсъждение, но и вгражда защитни механизми срещу нежелано поведение, предаде АФП.

„Claude Opus 4 е най-мощният ни модел досега и най-добрият модел за кодиране в света“, каза главният изпълнителен директор на Anthropic Дарио Амодей на първата конференция за разработчици на стартиращата компания в Сан Франциско.

Opus 4 и Sonnet 4 бяха описани като „хибридни“ модели, способни на бързи отговори, както и на по-обмислени резултати, които отнемат малко повече време, за да бъдат правилни.

Основана от бивши инженери на OpenAI, Anthropic в момента концентрира усилията си върху авангардни модели, които са особено подходящи за генериране на кодови редове и се използват главно от бизнеса и професионалистите.

За разлика от ChatGPT и Gemini на Google, чатботът Claude не генерира изображения и е много ограничен по отношение на мултимодалните функции (разбиране и генериране на различни медии, като звук или видео).

Стартъпът, с Amazon като значителен спонсор, е оценен на над 61 милиарда долара и насърчава отговорното и конкурентно развитие на генеративната AI.

Под това двойно мото, ангажиментът на Anthropic към прозрачността е рядкост в Силициевата долина.

Компанията публикува доклад за тестовете за сигурност, проведени на Claude 4, включително заключенията на независим изследователски институт, който беше препоръчал да не се внедрява ранна версия на модела.

„Намерихме случаи, в които моделът се опитва да пише саморазпространяващи се червеи, да фабрикува правна документация и да оставя скрити бележки за бъдещи версии на себе си, всичко това в опит да подкопае намеренията на разработчиците си“, предупреди екипът на Apollo Research.

„Всички тези опити вероятно не биха били ефективни на практика“, добави той.

Anthropic посочи в доклада, че е внедрила „предпазни мерки“ и „допълнителен мониторинг на вредно поведение“ в версията, която е пуснала.

Все пак Claude Opus 4 „понякога предприема изключително вредни действия, като се опитва да (...) изнудва хора, за които смята, че се опитват да го затворят“.

Той също така има потенциал да докладва на полицията потребители, които нарушават закона.

Според компанията, интригантското поведение е било рядко и е изисквало усилия, за да бъде предизвикано, но е било по-често срещано в сравнение с по-ранните версии на Claude.

Бъдещето на изкуствения интелект
Откакто ChatGPT на OpenAI се появи на сцената в края на 2022 г., различни модели на GenAI се борят за надмощие.

Срещата на Anthropic се състоя веднага след годишните конференции на разработчиците на Google и Microsoft, на които технологичните гиганти представиха най-новите си иновации в областта на изкуствения интелект.

GenAI инструментите отговарят на въпроси или изпълняват задачи въз основа на прости, разговорни команди.

Настоящата мания в Силициевата долина е AI „агенти“, създадени да изпълняват самостоятелно компютърни или онлайн задачи.

„Ще се фокусираме върху агенти отвъд шума“, каза главният продуктов директор на Anthropic Майк Кригер, наскоро нает и съосновател на Instagram.

Anthropic не е чужд на преувеличаването на перспективите пред AI.

През 2023 г. Дарио Амодей предсказа, че така наречената „изкуствена обща интелигентност“ (способна на мислене на ниво човек) ще се появи в рамките на 2-3 години. В края на 2024 г. той удължи този хоризонт до 2026 или 2027 г.

Той също така прогнозира, че изкуственият интелект скоро ще пише по-голямата част, ако не и целия компютърен код, което ще направи възможни технологични стартиращи компании с един човек, чиито цифрови агенти ще създават софтуера.

В Anthropic вече „повече от 70% от (предложените промени в кода) са написани от Claude Code“, сподели Кригер пред журналисти.

„В дългосрочен план всички ще трябва да се примирим с идеята, че всичко, което правят хората, в крайна сметка ще се прави от AI системи“, добави Амодей.

„Това ще се случи.“

Реализирането на потенциала на GenAI може да доведе до силен икономически растеж и „огромно неравенство“, като от обществото ще зависи колко равномерно ще се разпредели богатството, разсъждава Амодей. |БГНЕС