En ny studie visar att organisationers användning av AI-verktyg för mjukvaruutveckling leder till ökade kostnader och fler fel efter att mjukvaran produktionssätts. Samtidigt ökar mängden kod som produceras.
Bakgrund
Studien, som genomförts på uppdrag av mjukvaruföretaget CloudBees, undersökte effekterna av företags användning av AI-verktyg för mjukvaruutveckling. Studien analyserade bland annat effekterna på själva utvecklingsprocessen och tillhörande delmoment, såsom testning och fel som kan inträffa efter en färdig mjukvara har satts i produktion. Därutöver tittade studien även på relaterade frågor, såsom kostnader och interna processer för styrning och ansvar. Över 200 företagsledare med en teknisk bakgrund deltog.
Studiens resultat
De flesta företag som deltog i studien (81 %) angav att de hade drabbats av ökade produktionsproblem relaterade till AI-genererad kod, som till exempel driftstopp. Samtidigt saknade nästan alla företag en tydlig intern ansvarsfördelning för att hantera driftstopp och andra fel i produktionen som var relaterade till AI-genererad kod. Bara ett fåtal av företagen (12 %) hade ett dedikerat team för AI-governance. Nästan alla företag (93 %) uppgav att de hade formella processer för granskning och godkännande av AI-genererad kod för produktionen, men nästan hälften av företagen (44 %) medgav att dessa processer inte alltid följdes. Dessa utmaningar till trots uttryckte nästan alla företag (92 %) sitt förtroende för att koden var produktionsklar innan den levererades.
Parallellt med denna utveckling ökade företagens kostnader för mjukvaruutveckling. De flesta företagen (54 %) rapporterade en signifikant ökning av kostnader för testning, säkerhet och produktionssättning av mjukvara, kostnader som vanligtvis inte bokförs som AI-kostnader i IT-budgeten. Samtidigt ansåg endast den knappa hälften av företagen (45 %) att kostnaderna för användning av AI-verktyg var förutsägbara från kvartal till kvartal. Enligt studien skapade denna kombination av ökade kostnader och oförutsägbarhet incitament för en mer selektiv användning av AI-verktyg.
Studien undersökte även affärsvärdet (return on investment) som skapats av AI-verktygen. Majoriteten av företagen (68 %) ansåg att AI hade skapat ett tydligt affärsvärde, men kunde endast koppla 31 % av sina AI-relaterade utgifter till specifika affärsresultat. Ungefär en tredjedel av företagen (36 %) följde upp AI-relaterade utgifter utan att mäta affärsvärdet eller mätte det inte alls.
Praktiska konsekvenser
Studien förtydligar att AI-verktyg för kodning skapar nya typer av risker för mjukvaruutveckling, oavsett om den sker som egenutveckling eller om den upphandlas från externa leverantörer. Verktygen bidrar till en snabbare leverans men innebär risker för ökade och oförutsebara kostnader samt svårupptäckta fel som blir synliga först när mjukvaran är i drift.
Riskerna är särskilt relevanta vid upphandling av tjänster för utveckling av IT-system från externa parter. Standardavtal för denna typ av tjänst överför regelbundet risken för fel i mjukvaran till beställaren efter godkännandedagen. Studien illustrerar att fel som orsakas av AI-genererad kod kan bli svåra att upptäcka och först bli synliga när mjukvaran har satts i produktion, dvs. efter godkännandedagen. Om beställaren inte vidtagit särskilda avtalsmässiga åtgärder, är det inte otänkbart att beställaren måste stå för kostnaderna för att åtgärda felen.
TechLaw följer utvecklingen och publicerar löpande inlägg om rättsutveckling och andra aktuella frågor inom AI. Läs mer om hur vi bistår våra klienter inom artificiell intelligens (AI).
Källa: CloudBees.
