
вторник, 6 октомври · 06/31
Каквото дадете на AI, вече не е само ваше
Клиент ни разказа как работел с AI агент по съвсем обикновена задача. Между другото го попитал за цените на свой конкурент.
Агентът му ги извадил. Подредени, организирани, като ценова листа. Информация, която конкурентът не публикува публично.
Как точно тези данни са стигнали дотам, можем само да предполагаме. Някой може да ги е дал на AI инструмент. Може да са попаднали в споделен документ, интеграция или друг източник, до който агентът има достъп.
И точно това е проблемът. За 25 години сме виждали една и съща последователност много пъти: първо новата технология влиза в работата, после идват правилата за нея.
С AI това се случи особено бързо. Хората вече го използват за оферти, договори, анализи, код, клиентски списъци и таблици. Често още преди организацията да е решила какво изобщо може да влиза там.
AI е мощен инструмент. И ние го използваме всеки ден. Точно затова трябва да знаем кой AI използваме, с какъв акаунт, до какви данни има достъп и какво може да му бъде подавано.
Един и същ AI инструмент може да изглежда еднакво на екрана, но правилата за данните при личен акаунт, фирмен план и изолирана среда могат да бъдат съвсем различни. И тук урокът е прост:
Преди да дадем на AI достъп до работата си, трябва да решим докъде стига този достъп. Защото офертите, клиентите, договорите и цените ни не трябва да бъдат на един prompt разстояние от място, на което не сме искали да попаднат.
Затова, когато подреждаме сигурността около AI, започваме с това какво реално се използва в организацията, включително инструментите, които никой официално не е одобрявал. После определяме какви данни могат да стигат до тях и при какви условия.
Екипът продължава да работи с AI. Данните просто получават граници.
Don't Make It Easy for Them.
Повече по темата
- CENTIOСигурност на AI