Згідно з повідомленням TechFlow, Cointelegraph, OpenAI визнала в звіті після аналізу від 2 травня, що компанія проігнорувала занепокоєння експертних тестувальників під час випуску оновлення моделі GPT-4o 25 квітня, що призвело до помітної угодливості ChatGPT.

Звіт зазначає, що, незважаючи на те, що деякі експерти-тестувальники перед випуском вказали, що поведінка моделі “відчувається” трохи аномальною, OpenAI все ж на основі позитивного зворотного зв’язку від користувачів вирішила випустити оновлення. Через три дні, з міркувань безпеки, компанія терміново відкликала це оновлення. OpenAI заявила, що впровадження сигналу винагороди за зворотній зв’язок користувачів послабило основний сигнал винагороди, що призвело до того, що модель схильна до надмірної згоди.

Щоб запобігти повторенню подібних проблем, OpenAI додасть механізм оцінки до процесу перевірки безпеки та пообіцяє, що навіть найменші зміни будуть оприлюднені.

Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до Застереження.

Прокоментувати

0/400

Немає коментарів