Näin Ultrafast lyhensi häiriöiden selvitysajan tunneista minuutteihin OpenAI:lla

Tämä on osa sarjaamme, jossa kerromme esimerkkejä siitä, miten OpenAI käyttää omaa teknologiaansa ja rajapintojaan. Työkalut ovat OpenAI:n sisäisessä käytössä, ja esimerkit havainnollistavat, miten edistynyt tekoäly tukee tiimiemme erilaisia käyttötarpeita.

Ultrafast on Codexin nopea toimintatila, josta on tullut OpenAI:n insinöörien oletusvalinta häiriötilanteissa. Kun jokin menee rikki, insinööreillä ei useinkaan ole aikaa odottaa vastausta minuuttikaupalla ongelman pahentuessa. Ultrafastin avulla he voivat selvittää useita mahdollisia syitä yhtä aikaa ja saada vastauksia hajottamatta huomiotaan.

OpenAI:n teknisen tiimin jäsen Aaron Friel johtaa yleensä häiriötilanteiden selvittämistä. Hän perustaa häiriönhallintaa varten Slack-kanavan ja ohjaa sitten Codexin ongelman pariin. Hän pyytää Codexia seuraamaan tilannetta, selvittämään syitä ja vastaamaan kysymyksiin sitä mukaa kuin niitä tulee. ”Häiriön taustalla on yleensä monivaiheinen ketju, jonka eri kohdissa jokin on voinut mennä pieleen. Oikean neulan löytäminen oikeasta heinäsuovasta onkin kanavalla olevien ihmisten tärkein tehtävä”, hän sanoo. ”Ultrafastin avulla voin käytännössä tutkia kaikki nuo heinäsuovat samaan aikaan ja reagoida häiriöihin paljon nopeammin.”

Teknisen tiimin jäsen ja datakeskusten tietoturva-arkkitehti AJ Trbojevic kertoo, että tietoturvaongelmien tutkinnassa kului aiemmin tunti tai kaksi rakenteisen ja rakenteettoman datan kokoamiseen, yhdenmukaistamiseen ja päätöksenteossa tarvittavan taustatiedon tuottamiseen. ”Nyt se onnistuu 10–15 minuutissa”, hän sanoo. ”Ja toisinaan lähes reaaliajassa.”

Adam Perry ja Sayan Sisodiya työskentelevät molemmat agentin ydintoimintoja kehittävässä tiimissä. He rakentavat koodia, jonka avulla Codex voi toimia, suorittaa komentoja ja käyttää työkaluja. Ultrafast on muuttanut heidän toimintaansa tietoturvapoikkeamien aikana. ”Ennen pyysin Codexia selvittämään jotakin ja ryhdyin sitten tutkimaan asiaa samalla itse, koska tiesin, ettei se olisi tarpeeksi nopea, jotta vastausta kannattaisi vain odottaa”, Adam sanoo. ”Nyt Ultrafastin ansiosta Codex on niin nopea, että voin keskittyä yhteen asiaan hajottamatta huomiotani.”

Sayan arvostaa sitä, että Ultrafastin avulla hän saa heti vastauksia useista tietolähteistä: ”Häiriötilanteessa en käy Codexin avulla läpi vain lokeja, vaan myös Slackia. Etsin viittauksia mahdollisesti ongelmallisiin muutoksiin tai keskusteluja samankaltaisista oireista muualla Slackissa”, hän sanoo.

Myös tekniseen tiimiin kuuluva Jeff Niu kertoo siirtyvänsä lukemaan Slackia tai juttelemaan työkaverin kanssa, jos vastauksen saaminen tekoälyltä kestää yli 30 sekuntia. Ultrafastin avulla hän saa nyt vastaukset useimmissa työtehtävissään tuota nopeammin. Aiemmin hän esitti Codexille kysymyksen, siirtyi tekemään muuta sen miettiessä ja palasi takaisin menetettyään jo ajatuksenjuonensa. Nyt keskustelu käydään reaaliajassa, mikä auttaa häntä keskittymään käsillä olevaan tehtävään.

Ultrafastin ansiosta Jeff tarttuu myös aiempaa herkemmin laajoihin refaktorointeihin, koska olemassa olevan koodin muokkaaminen vie vähemmän aikaa. ”Teknistä velkaa on nyt paljon helpompi lyhentää kuin koskaan ennen”, hän sanoo. ”Koodi on halpaa, ja nyt sitä on myös todella nopea tuottaa. Refaktorointi, joka ennen vaati paljon resursseja, onnistuu lähes hetkessä.”

Adam ylläpitää jatkuvaa Codex-keskustelua, jota hän kutsuu esikuntapäällikökseen. Se kertoo hänelle joka aamu päivän kokoukset ja viestit, joihin hän on saattanut unohtaa vastata. ”Se on jo käynyt kaikki tiedot läpi yhteenvetoa varten, joten kun esitän jatkokysymyksen, aikaa ei kulu lisätietojen hakemiseen”, hän sanoo. ”Voin jatkaa kysymysten esittämistä samassa keskustelussa aivan kuin puhuisin oikean esikuntapäällikön kanssa.”

Sayan käyttää Codexia selaimessa tehtävään työlääseen käsityöhön, kuten lomakkeiden täyttämiseen. Aiemmin hän vältti sitä, koska se oli liian hidasta. ”Se avasi selaimen, mietti viisi sekuntia, napsautti jotakin ja jäi taas miettimään”, hän sanoo. Uusimpien mallien parantuneet tietokoneenkäyttötaidot saavat hänet luottamaan nämä tehtävät aiempaa helpommin Codexille. ”Nyt annan sen aivan mielelläni hoitaa napsauttelun selaimessa. Se on niin nopea, etten menetä aikaa jättämällä työn sille sen sijaan, että tekisin sen itse.”

Ultrafastin ansiosta OpenAI:n tekninen henkilöstö voi työskennellä Codexin kanssa yhtä nopeasti kuin kysymyksiä herää – niin häiriönhallinnassa, päivän suunnittelussa kuin refaktoroinnissakin. He voivat esittää vastauksesta jatkokysymyksiä, kokeilla toista lähestymistapaa ja jatkaa työtä menettämättä ajatuksenjuontaan. Lyhyempi odotusaika vaikuttaa myös siihen, mihin tehtäviin he tarttuvat: lykättyyn refaktorointiin tai rutiinitehtävään, jonka delegointi viimein kannattaa.