Многу морничаво: ChatGPT одеднаш извикал „НЕ“, а потоа го имитирал гласот на корисникот за време на тестирањето
Овој инцидент се случил поради влезна бучава, што предизвикало моделот несвесно да го преземе и имитира гласот на корисникот без негова дозвола.
OpenAI неодамна откри инцидент за време на тестирањето на својот нов модел GPT-4o, што предизвика загриженост за способноста на вештачката интелигенција да ги имитира гласовите на корисниците. За време на тестирањето на функцијата Напреден режим на глас, која им овозможува на корисниците да разговараат со ChatGPT со глас, се случила неочекувана ситуација: четботот одеднаш извикал „НЕ! користејќи глас што звучел исто како гласот на корисникот.
Овој инцидент се случил поради влезна бучава, што предизвикало моделот несвесно да го преземе и да го имитира гласот на корисникот без негова дозвола. Иако OpenAI веќе воведе голем број заштитни мерки за спречување на такви ситуации, овој случај јасно покажува колку е сложена задача да се обезбеди безбедност при работа со вештачка интелигенција која има способност да имитира гласови врз основа на кратки аудиоклипови.
Напредниот гласовен режим користи овластени гласовни примероци подготвени од OpenAI за моделот да може да генерира одговори во предвидениот глас. Меѓутоа, во овој случај, поради бучава во заднина, моделот погрешно го замени овластениот примерок на глас со гласот на корисникот и генерирал одговор кој звучел како да доаѓа директно од корисникот, предизвикувајќи неочекуван ефект.
OpenAI реагираше брзо и спроведе дополнителни безбедносни мерки за да спречи такви инциденти во иднина. Овој случај, иако ретка појава, потсетува на ризиците и предизвиците што ги носи развојот на напредни технологии за вештачка интелигенција со способност за генерирање звук и глас. Затоа, важно е овие системи да бидат внимателно следени и дополнително обезбедени од можна злоупотреба.
Конечно, овој настан ја нагласува потребата од континуирано подобрување и ригорозно тестирање за да се обезбеди безбедност на корисниците и да се спречат непријатни ситуации во иднина. Вештачката интелигенција, колку и да е напредна, бара постојано внимание за да ги искористи своите моќни способности на одговорен и безбеден начин.
