Monille tekoäly- ja koneoppimistiimeille data-annotoinnin kustannus on harvoin yksittäinen kuluerä. Yhtälö muodostuu laadusta, kielen kattavuudesta ja siitä, kuinka nopeasti projektissa on edettävä. Ulkoistuspäätöksessä ei aina ole kyse siitä, kumpi vaihtoehto on paperilla halvempi. Kustannukset ovat tärkeitä, mutta on myös tärkeää, että mallisi kestää projektin kasvamisen.
Mitä tapahtuu, kun merkintöjen määrä kasvaa? Miten laatutarkastukset muuttavat aineiston todellisia kustannuksia? Milloin monikielisyys tekee sisäisestä mallista liian monimutkaisen hallita? Tässä artikkelissa eritellään sisäisen ja ulkoistetun data-annotoinnin kustannustekijät ja kerrotaan, miten voit päättää, mikä malli on järkevä oman tekoälystrategiasi kannalta.
Datan annotointi talon sisällä on yleensä halvempaa pienissä ja tasaisissa määrissä yhdellä kielellä ja kapealla erikoisalalla. Annotoinnin ulkoistaminen muuttuu kustannustehokkaammaksi, kun määrä kasvaa, kielten määrä lisääntyy tai laatuvaatimukset tiukentuvat. Kannattavuuden määrittelyssä on harvoin kyse vain tuntihinnoista. Laskelmaan vaikuttavat projektin käynnistämisaika, monikielinen kattavuus ja laadunvarmistuksen kustannukset.
Mikä sisäisessä data-annotoinnissa todellisuudessa maksaa
Talon sisällä tehtävä data-annotointi näyttää budjetin rivillä yksinkertaiselta. Harvoin se kuitenkaan on sitä. Kokonaiskustannukset ovat viiden kategorian summa, jotka kertautuvat hankkeen edetessä.
-
Työvoima: oikean alan ja kielen merkitsijöiden rekrytointi, palkat, koulutus ja pysyvyys.
-
Työkalut: merkintäalustojen lisenssit, laadunvarmistusohjelmistot ja infrastruktuuri tietojoukkojen ylläpitoa ja versiointia varten.
-
Laadunvarmistus: arviointitasot, verrokkiaineistot, eri merkitsijöiden yhdenmukaisuustarkastukset ja niistä vastaavat henkilöt.
-
Projektin käynnistys: tarvittu aika ja valvonta, jotta uudet merkitsijät pääsevät hyväksyttävään tarkkuuteen tietyssä projektissa.
-
Yleiskustannukset: projektipäälliköt, laadunvarmistuspäälliköt ja työnkulkujen ylläpitoon käytetyt insinöörityötunnit.
Useimmat sisäiset kustannusmallit kattavat kaksi ensimmäistä luokkaa, mutta niissä aliarvioidaan kolme viimeistä luokkaa. IBM:n mukaan tietojen valmistelu voi viedä jopa 80 % tekoälyhankkeen resursseista. Tämä luku näkyy harvoin alustavissa budjeteissa, koska suurin osa panoksesta tulee jo palkatuista suunnittelu- ja toimintatiimeistä.
Missä tilanteissa ulkoistaminen muuttaa kustannusyhtälöä
Ulkoistaminen muuttaa useimmat näistä kululuokista kiinteistä kuluista muuttuviksi kuluiksi. Palveluntarjoaja kattaa rekrytoinnin, koulutuksen, työkalut ja laadunvarmistuksen infrastruktuurin. Asiakas maksaa tuotoksesta, ei sen taustalla olevasta koneistosta. Kolme rakenteellista muutosta vaikuttavat hankintaan.
-
Muuttuva kustannus korvaa kiinteän kustannuksen. Maksat käsitellyistä määristä etkä siitä, että kapasiteetti seisoo käyttämättömänä projektien välillä.
-
Palveluntarjoajan vastaa aloituskustannuksista. Valikoitu työvoima on jo koulutettu laadunvarmistuksen työnkulkuihin ja työkaluihin, joten halutun tarkkuuden saavuttamiseen kuluu vähemmän aikaa.
-
Vaatimustenmukaisuus ja turvallisuus on tuotteistettu. ISO-sertifikaatit, GDPR-valvontatoimet ja tarkastusjäljet sisältyvät sopimukseen sen sijaan, että ne pitäisi rakentaa sisäisesti.
Kun 97 prosenttia datajohtajista sanoo, että heikko datan laatu haittaa tekoälyaloitteita (CDO Insights), se on selvä hankintasignaali. Laatuongelmat, mallin uudelleenkouluttaminen puhdistetulla aineistolla, julkaisun viivästyminen sekä vinoumien korjaaminen tulevat lähes aina kalliimmaksi kuin laadunvarmistuksen ostaminen kumppanilta, joka jo tekee sitä suuressa mittakaavassa.
Miksi monikielinen annotointi ei usein onnistu sisäisesti
Tässä kohtaa kustannusyhtälö muuttuu ratkaisevasti. Yksikielinen annotointiputki voidaan rakentaa ja toteuttaa kurinalaisesti sisäisesti. Jos kieliä on useita, tämä ei yleensä onnistu.
Kuhunkin kieleen tarvitaan oma ryhmä äidinkielisiä merkitsijöitä ja laadunvarmistajia sekä paikallisten kielen normien mukaan määritellyt verrokkiaineistot. Työvoiman palkkaaminen, kouluttaminen ja säilyttäminen kymmenellä tai kahdellakymmenellä kielellä ei ole skaalautuvuusongelma vaan rakenteellinen haaste. Useimmat sisäiset tiimit päätyvät ulkoistukseen kolmen tai neljän kielen jälkeen. Yksikkökustannukset voivat tällöin olla korkeat, koska kielikohtainen volyymi on liian pieni hyvän neuvottelutuloksen saavuttamiseksi.
Erikoistuneet palveluntarjoajat toimivat eri mittakaavassa. Kun palveluntarjoaja on tottunut toimittamaan data-annotaatioita sadoilla kielillä ja pystyy yhdistämään seulotun monikielisen työvoiman avulla tekoälyavusteiset työnkulut ja ihmisen tekemät validoinnit, kielikohtaiset kustannukset laskevat. Työvoima, työkalut ja laadunvarmistuskerros ovat jo valmiiksi paikoillaan.
Jos tekoälyn etenemissuunnitelma sisältää yli kaksi kieltä seuraavan 12 kuukauden aikana, monikielisyyden muuttujan tulisi olla päätösmatriisin kärjessä eikä hännillä.
Sisäinen työ vs. ulkoistus: päätöksentekomatriisi
Seuraavan matriisin avulla voit arvioida hankettasi viiden muuttujan valossa. Suositussarake kertoo, mikä malli toimii yleensä parhaiten muuttujan voimistuessa.
| Muuttuja | Alhainen intensiteetti | Korkea intensiteetti | Suositus |
| Merkintöjen määrä | Vakaa, ennustettava | Vaihteleva, kasvaa nopeasti | Ulkoista huippukynnyksen yläpuolella |
| Kielellinen kattavuus | 1–2 kieltä | 3 kieltä | Ulkoista heti, kun hankkeesta tulee monikielinen |
| Toimialaspesifisyys | Yleiskäyttöinen | Säännelty tai tekninen | Hybridimalli: sisäisellä työllä huomioidaan konteksti ja ulkoistuksella laajamittaiset tarpeet |
| Laatuvaatimus | Sietää vaihtelua | Virallinen vaatimustenmukaisuus tai tuotantovaatimukset | Ulkoista palveluntarjoajalle, jolla on dokumentoidut laadunvarmistustasot |
| Ensimmäisen käyttökelpoisen aineiston luomiseen kuluva aika | Useampi kuukausi hyväksyttävä | Tarvitaan viikoissa | Ulkoista, jotta aloitus sujuu nopeasti |
Jos riveistä kolme tai useampi kallistuu kohti korkeaa intensiteettiä, talon sisäinen malli ei todennäköisesti pysty säilyttämään kustannusetuaan. Deloitten tutkimusten mukaan tekoälyn huippuosaajat laajentavat toimintaansa ja saattavat projektit päätökseen jopa 40 prosenttia nopeammin, ja tämä nopeusetu perustuu lähes aina tuotantovalmiisiin dataputkiin, jotka on joko rakennettu sisäisesti merkittävien investointien avulla tai hankittu erikoistuneilta kumppaneilta.
Yhteenveto
-
Sisäinen annotointi on kustannustehokkainta, kun kyseessä on pieni ja tasainen määrä aineistoa yhdellä kielellä ja suppealla erikoisalalla.
-
Ulkoistettu annotointi on kustannustehokkaampaa, kun määrä kasvaa, kielten määrä moninkertaistuu tai laatuvaatimukset tiukentuvat.
-
Monikielinen kattavuus on muuttuja, joka aiheuttaa nopeammin ongelmia talon sisäiselle mallille, koska jokainen kieli aiheuttaa omat työvoima-, laadunvarmistus- ja työkalukustannukset.
-
Oikea kysymys ei ole, mikä malli on edullisempi tänään, vaan missä mallissa kulurakenne säilyy samanlaisena hankkeen laajentuessa.