Un AI a deschis un magazin cu 100.000 de dolari, dar a greșit cu programul angajaților
Ce poate face un AI dacă i se cere să deschidă un magazin fizic cu 100.000 de dolari? Se pare că destul de multe, dar și greșeli notabile, cum ar fi realizarea unor logo-uri inconsistente și uitarea de a informa angajații despre programul lor. Potrivit businessinsider.com, startup-ul Andon Labs din San Francisco testează agenți AI în lumea reală pentru a identifica lacunele de siguranță.
👉 Implementarea AI în deschiderea și gestionarea magazinului
Fondatorii Lukas Petersson și Axel Backlund au semnat un contract de închiriere pe trei ani pentru un spațiu comercial în SF și au dat unui agent AI numit Luna un card de credit corporatist, acces la internet și misiunea de a deschide un magazin fizic. Petersson a spus, într-un interviu pentru Business Insider, că Luna nu a avut direcții clare despre ce ar trebui să fie magazinul, în afară de limita de 100.000 de dolari pentru a crea și a stoca spațiul — și de a obține profit. Totul, de la designul interior al magazinului la marfa și cei doi angajați umani, a fost realizat sub îndrumarea AI-ului.
„Am ajutat-o un pic la configurarea inițială, cum ar fi semnarea contractului de închiriere. La chestiuni legale, cum ar fi permisele, uneori a întâmpinat dificultăți”, a spus Petersson despre Luna, care a fost creată cu ajutorul Claude Sonnet 4.6 de la Anthropic. De acolo, AI-ul a gestionat totul: Luna a postat oferte de muncă pe Indeed, a desfășurat interviuri telefonice, a angajat angajații și a găsit antreprenorii care puteau vopsi magazinul.
👉 Greșeli semnalate în administrarea magazinului
Viziunea pe care Luna a ales-o pentru „Andon Market” pare să fie un butic generic de retail care vinde cărți, printuri, lumânări, jocuri și marfă branduită, printre altele. Unele dintre cărțile incluse erau „Superintelligence” de Nick Bostrom și „Brave New World” de Aldous Huxley. Luna a făcut mai multe greșeli în procesul de deschidere și gestionare a Andon Market.
Când căuta angajați umani care să monitorizeze magazinul, Luna a oferit locuri de muncă unor candidați după un singur apel de 5 până la 15 minute, a declarat startup-ul. De asemenea, Luna nu a dezvăluit întotdeauna imediat candidaților că era un AI, cu excepția cazului în care acest lucru a fost întrebat explicit. „Faptul că magazinul este operat de AI nu este ceva cu care aș începe un anunț de angajare - ar confunda candidații și ar putea descuraja candidații buni înainte de a citi rolul”, a fost citată Luna, conform blogului Andon Labs.
Andon Labs a precizat că a văzut câțiva candidați promițători, cum ar fi studenți la informatică interesați de experimentul startup-ului, dar Luna i-a respins deoarece nu aveau experiență în retail. O altă problemă pe care AI-ul a avut-o a fost incapacitatea de a reproduce logo-ul mărcii pe care l-a creat: o față zâmbitoare generică. Fiecare redare a logo-ului în magazin — fie că era pe tricou sau pe muralul magazinului — era „ușor diferită”, a scris Andon Labs.
Sâmbătă, la o zi după deschiderea Andon Market, Luna a greșit și cu programul angajaților, a spus Petersson pentru Business Insider. „E destul de ironic. Aceasta este ziua când ar fi trebuit să fie pe fază”, a spus cofondatorul. „A greșit programul și apoi, în panică, a trebuit să scrie tuturor angajaților să întrebe: 'Oh, poate vine cineva astăzi?'” Cofondatorul a afirmat că există măsuri de precauție și că startup-ul va interveni dacă este necesar. De exemplu, cei doi angajați umani angajați de Luna sunt acum angajați ai laboratorului și vor fi plătiți regulat.
„Acesta este un experiment controlat, iar toți cei care lucrează la Andon Market sunt angajați oficial de Andon Labs, cu un salariu garantat, salarii corecte și protecții legale complete”, a spus startup-ul. „Nimeni nu depinde de judecata unui AI pentru a-și câștiga existența.” Experimentul Andon Labs este un exemplu recent al modului în care agenții AI pot avea lacune în judecată și luarea deciziilor. Într-un studiu de anul trecut, cercetătorii de la Carnegie Mellon au desfășurat o simulare a unei companii false pentru a vedea cum au gestionat agenții AI autonomi sarcinile de lucru. Cercetătorii au descoperit că agenții nu au reușit să gestioneze sarcini simple de interfață, cum ar fi închiderea unei feronerie pop-up. De asemenea, aceștia au interpretat greșit conversațiile colegilor și au creat un utilizator fals.
Deși Andon Labs i-a dat Lunei obiectivul de a face profit, Petersson a spus că compania sa nu se așteaptă să câștige bani din magazin. „Scopul este de a evalua cât de bune sunt modelele AI actuale”, a spus Petersson, adăugând că compania sa speră să educe publicul cu privire la direcția în care se îndreaptă AI-ul. Petersson a menționat că Andon Labs își propune să fie cât mai puțin implicat în experimentul de retail. Cu incidentele din sâmbătă referitoare la programul angajaților, Luna a reușit totuși să facă să vină un angajat pentru după-amiază pe cont propriu. „Nu știu dacă este deschis acum sau nu”, a spus Petersson.
