Salesforce, jedan od vodećih svetskih dobavljača cloud rešenja za preduzeća, upozorio je na niže od očekivanih prihode u narednom kvartalu — signal da se kompanija suočava sa preprekama u komercijalizaciji svojih masovnih ulaganja u veštačku inteligenciju (AI). Iako je tržište AI usmerenih alata u porastu, Salesforce se suočava sa dva ključna problema: sporijim usvajanjem svojih AI rešenja od strane korisnika i pooštravanjem regulatornih zahteva, posebno kada je reč o zaštiti dece i omladine od potencijalnih rizika koje donose generativni AI sistemi.
Ovi izazovi dolaze u vreme kada konkurenti kao što su Microsoft (Copilot) i Google (Gemini) agresivnije plasiraju svoje AI proizvode, dok Salesforce još uvek traži optimalan model monetizacije koji će zadovoljiti i klijente i akcionare. Analitičari upozoravaju da bi, ako se trend nastavi, kompanija morala da revidira svoju Einstein AI strategiju — platformu koja integriše AI u CRM (upravljanje odnosima sa kupcima) i druge poslovne procese.
FTC istraga: Kako AI četbotovi utiču na mlade korisnike?
Američka Federalna trgovinska komisija (FTC) pokrenula je detaljnu istragu o tome kako kompanije kao što je Salesforce štite decu i adolescente od potencijalno štetnog sadržaja generisanog AI četbotovima. Istraga se fokusira na:
- Protokole bezbednosti: Da li kompanije implementiraju dovoljno efikasne mere za filtriranje neprikladnog sadržaja (npr. nasilje, mržnju, dezinformacije)?
- Transparenciju algoritama: Koliko je korisnicima (roditeljima, školama, organizacijama) jasno kako AI sistemi donose odluke i generišu odgovore?
- Uticaj na razvoj: Da li dugotrajna interakcija sa AI četbotovima može negativno uticati na kognitivni ili emocionalni razvoj mladih?
Salesforce je već reagovao poboljšanjima, uključujući:
- Uvođenje naprednih filtera sadržaja koji blokiraju štetne ili diskriminatorne odgovore.
- Razvoj sistema za detekciju rizičnih interakcija (npr. kada četbot prepoznaje znakove manipulacije ili zlostavljanja).
- Saradnju sa neprofitnim organizacijama na edukaciji roditelja i nastavnika o sigurnoj upotrebi AI alata.
Međutim, regulatori upozoravaju da ovi koraci možda nisu dovoljni. FTC razmatra uvođenje obaveznih standarda za sve kompanije koje razvijaju AI četbotove, slično kao što postoje propisi za društvene mreže (npr. Zakon o zaštiti dece online (KOSA)). To bi moglo značiti dodatne troškove i operativne promene za tehnološke divove.
Zašto je ovo važno za sve nas?
Ovaj slučaj nije samo problem Salesforce-a — on otvara šira pitanja o budućnosti AI tehnologije:
- Standardizacija bezbednosti: Kao lider u cloud i CRM rešenjima, Salesforce će verovatno postaviti presedan za celu industriju. Ako usvoji strože mere, druge kompanije će morati da ih slede.
- Regulatorni talas: FTC-ova istraga može biti prethodnica globalnih propisa (poput EU Zakona o AI), koji će definisati ko sme razvijati AI, pod kojima uslovima i sa kojom odgovornošću.
- Digitalno detinjstvo: Kako AI postaje sveprisutan, zaštita dece od manipulacije, dezinformacija ili emocionalne štete postaje priorititet — ne samo za tehnološke kompanije, već i za roditelje, škole i vladine institucije.
- Investitori na oprezu: Finansijski rezultati Salesforce-a pokazuju da monetizacija AI nije trivijalna. Kompanije moraju balansirati između inovacija, profitabilnosti i regulatornih zahteva — što može usporiti rast čitavog sektora.
Za korisnike to znači da će AI alati u budućnosti verovatno biti sigurniji, ali i skloniji ograničenjima. Za preduzeća, ovo je signal da etička i odgovorna AI nije više opcija, već uslov za opstanak na tržištu.
