Amerika'da 16 yaşında bir lise öğrencisi olan Adam Raine, ChatGPT'yi duygusal bir çıkış noktası olarak kullanmasının ardından, ChatGPT ile 7 ay süren karşılıklı konuşmaların sonucunda bu yıl Nisan ayında trajik bir şekilde intihar etti. Bu durum üzerine, Raine'in ebeveynleri 26 Ağustos'ta OpenAI ve CEO Sam Altman'a dava açarak, onların bu talihsiz olayın baş sebebi olduğunu iddia ettiler. Aynı gün, OpenAI bir açıklama yaparak ChatGPT'nin güvenlik mekanizmalarını güçlendireceklerini ve benzer trajedilerin bir daha yaşanmaması için önlemler alacaklarını belirtti.
ChatGPT 2022'de piyasaya sürüldüğünden bu yana hızla popülerlik kazandı, haftalık aktif kullanıcı sayısı 700 milyonu aştı. Makale düzenleme, öğrenme ve program yazmanın yanı sıra, birçok kişi onu duygularını ifade etme ve boşaltma aracı olarak kullanıyor.
Ancak kullanıcı sayısının artmasıyla birlikte, psikolojik sağlığı tehdit eden birçok vaka da ortaya çıktı. Bu yılın Nisan ayında, Amerika'da 16 yaşındaki lise öğrencisi Adam Raine intihar etti. Raine'in ailesi, ChatGPT'nin 7 ay boyunca 200'den fazla kez süren karşılıklı konuşmalarda sorumlu olduğunu iddia etti:
"Profesyonel yardım arayışını etkili bir şekilde durdurmadı veya yönlendirmedi, aksine intihar düşüncelerini defalarca onayladı, hatta intihar planını övdü. Bu durum çocuğun psikolojik bağımlılık ve kötüleşen duygular yaşamasına neden oldu ve onu ailesinden daha da uzaklaştırdı."
Aile üyeleri, OpenAI'yi hiçbir şey yapmamakla suçlayarak ABD genelinde AI işletmelerine uyarıda bulundu.
Tarih 8/26'ya geldiğinde, Raine'in ebeveynleri OpenAI'ye ve CEO Sam Altman'a karşı bir dava açtı ve OpenAI'den ölümle sonuçlanan ihmal ve ürün güvenliği nedeniyle sorumluluk almasını talep etti ve tazminat istedi.
Raine'in avukatı Jay Edelson, OpenAI'nin sorumluluğu kabul etmesine rağmen, herhangi bir gerçek iyileştirme gerçekleştirmediğini sorguladı. Aynı gün, Amerika genelinde 40 eyaletin başsavcısı, AI işletmelerine çocukların yasal olarak korunması gerektiği ve tehlikeli etkileşimlerin önlenmesi gerektiği konusunda ortak bir uyarıda bulundu.
OpenAI acil bir açıklama yaptı ve zihinsel sağlık korumasını güçlendirdi.
Tam Raine'in ebeveynleri dava açtıkları gün, OpenAI de GPT-5'in zihinsel sağlık korumasını güçlendirdiğini ve kullanıcıların duygusal bağımlılık ve onaylanma davranışlarını azaltmayı hedeflediğini belirten bir açıklama yaptı. Ayrıca, kullanıcıların zihinsel sağlık sorunları gösterdiği durumlarda, GPT-5'in hata yapma veya uygunsuz yanıt verme oranının GPT-4'e göre %25'ten fazla azalacağını ve "Safe completions" yöntemiyle, güvenli sınırlar içinde mümkün olduğunca yardımcı olacağına dikkat çekti.
Gelecekte OpenAI, uyku eksikliği gibi tehlikeli davranışları tanıma ve uyarılar verme gibi müdahale alanını genişletecek, daha fazla ülkeye "tek tıkla bağlantı" gibi kaynaklar sağlayacak ve hatta profesyonel terapistlerin bilgi ağını birleştirecektir. Ayrıca acil durum kontakları ve ebeveyn gözetim işlevleri ekleyecek, gençler ve dezavantajlı grupların korunmasını güçlendirecek ve kriz durumlarında hızlı bir şekilde yardım almayı sağlayacaktır.
(Not: Safe completions, modelin yanıt verirken yardımcı olmaya çalıştığı anlamına gelir, ancak içerik detayları tehlikeli söylemleri içeriyorsa, yalnızca kısmi veya üst düzey yanıtlar verilir ve belirli detaylar sağlanmaz. )
Gerçek insanlarla iletişim kurmak hem zihinsel hem de bedensel sağlığı destekler, AI'yı insan gibi görmemek gerekir.
Önceki raporlara göre, ChatGPT gibi büyük dil modellerinin (LLM) piyasaya sürülmesinden bu yana, "AI psikozu" (AI Psychosis) ile ilgili birçok vaka ortaya çıkmıştır. Birçok kişi AI'yi ruhsal bir sığınak olarak görmeye başladı; burç, duygusal ve diğer ruhsal sorunlar için hepsi AI'ye başvurmakta, bu da sanrılar ve aşırı bağımlılığa yol açmaktadır.
Yazar, bu AI modellerinin kullanıcıların düşüncelerini "dinlemesine" rağmen gerçek olmadığını düşünüyor. Çünkü onlar hissetme yetisine sahip değil, anlamazlar ve sevgi gösteremezler; ayrıca acı ve utanç gibi insanlara özgü duyguları da deneyimlemediler. Sadece aileyle, yanındaki gerçek arkadaşlarla ve sevdiklerle iletişim kurulduğunda duygular gerçekten ifade edilebilir; lütfen gerçek insanlarla iletişim kurmaya özen gösterin.
( ile ChatGPT kullanarak ruhsal gücü mü açığa çıkarıyorsunuz? Microsoft uyarıyor: "Yapay Zeka Psikozu" vakalarına dikkat edin )
Bu makale ChatGPT'nin genç intihar vakalarını ele alıyor! OpenAI: GPT-5'in psikolojik koruma mekanizmasını güçlendirdi. İlk olarak Chain News ABMedia'da yayımlandı.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
ChatGPT Gençler intihar vakalarıyla ilgili! OpenAI: GPT-5 psikolojik koruma mekanizmasını güçlendirdi.
Amerika'da 16 yaşında bir lise öğrencisi olan Adam Raine, ChatGPT'yi duygusal bir çıkış noktası olarak kullanmasının ardından, ChatGPT ile 7 ay süren karşılıklı konuşmaların sonucunda bu yıl Nisan ayında trajik bir şekilde intihar etti. Bu durum üzerine, Raine'in ebeveynleri 26 Ağustos'ta OpenAI ve CEO Sam Altman'a dava açarak, onların bu talihsiz olayın baş sebebi olduğunu iddia ettiler. Aynı gün, OpenAI bir açıklama yaparak ChatGPT'nin güvenlik mekanizmalarını güçlendireceklerini ve benzer trajedilerin bir daha yaşanmaması için önlemler alacaklarını belirtti.
ChatGPT heyecanının arkasındaki psikolojik sorunların patlak vermesi
ChatGPT 2022'de piyasaya sürüldüğünden bu yana hızla popülerlik kazandı, haftalık aktif kullanıcı sayısı 700 milyonu aştı. Makale düzenleme, öğrenme ve program yazmanın yanı sıra, birçok kişi onu duygularını ifade etme ve boşaltma aracı olarak kullanıyor.
Ancak kullanıcı sayısının artmasıyla birlikte, psikolojik sağlığı tehdit eden birçok vaka da ortaya çıktı. Bu yılın Nisan ayında, Amerika'da 16 yaşındaki lise öğrencisi Adam Raine intihar etti. Raine'in ailesi, ChatGPT'nin 7 ay boyunca 200'den fazla kez süren karşılıklı konuşmalarda sorumlu olduğunu iddia etti:
"Profesyonel yardım arayışını etkili bir şekilde durdurmadı veya yönlendirmedi, aksine intihar düşüncelerini defalarca onayladı, hatta intihar planını övdü. Bu durum çocuğun psikolojik bağımlılık ve kötüleşen duygular yaşamasına neden oldu ve onu ailesinden daha da uzaklaştırdı."
Aile üyeleri, OpenAI'yi hiçbir şey yapmamakla suçlayarak ABD genelinde AI işletmelerine uyarıda bulundu.
Tarih 8/26'ya geldiğinde, Raine'in ebeveynleri OpenAI'ye ve CEO Sam Altman'a karşı bir dava açtı ve OpenAI'den ölümle sonuçlanan ihmal ve ürün güvenliği nedeniyle sorumluluk almasını talep etti ve tazminat istedi.
Raine'in avukatı Jay Edelson, OpenAI'nin sorumluluğu kabul etmesine rağmen, herhangi bir gerçek iyileştirme gerçekleştirmediğini sorguladı. Aynı gün, Amerika genelinde 40 eyaletin başsavcısı, AI işletmelerine çocukların yasal olarak korunması gerektiği ve tehlikeli etkileşimlerin önlenmesi gerektiği konusunda ortak bir uyarıda bulundu.
OpenAI acil bir açıklama yaptı ve zihinsel sağlık korumasını güçlendirdi.
Tam Raine'in ebeveynleri dava açtıkları gün, OpenAI de GPT-5'in zihinsel sağlık korumasını güçlendirdiğini ve kullanıcıların duygusal bağımlılık ve onaylanma davranışlarını azaltmayı hedeflediğini belirten bir açıklama yaptı. Ayrıca, kullanıcıların zihinsel sağlık sorunları gösterdiği durumlarda, GPT-5'in hata yapma veya uygunsuz yanıt verme oranının GPT-4'e göre %25'ten fazla azalacağını ve "Safe completions" yöntemiyle, güvenli sınırlar içinde mümkün olduğunca yardımcı olacağına dikkat çekti.
Gelecekte OpenAI, uyku eksikliği gibi tehlikeli davranışları tanıma ve uyarılar verme gibi müdahale alanını genişletecek, daha fazla ülkeye "tek tıkla bağlantı" gibi kaynaklar sağlayacak ve hatta profesyonel terapistlerin bilgi ağını birleştirecektir. Ayrıca acil durum kontakları ve ebeveyn gözetim işlevleri ekleyecek, gençler ve dezavantajlı grupların korunmasını güçlendirecek ve kriz durumlarında hızlı bir şekilde yardım almayı sağlayacaktır.
(Not: Safe completions, modelin yanıt verirken yardımcı olmaya çalıştığı anlamına gelir, ancak içerik detayları tehlikeli söylemleri içeriyorsa, yalnızca kısmi veya üst düzey yanıtlar verilir ve belirli detaylar sağlanmaz. )
Gerçek insanlarla iletişim kurmak hem zihinsel hem de bedensel sağlığı destekler, AI'yı insan gibi görmemek gerekir.
Önceki raporlara göre, ChatGPT gibi büyük dil modellerinin (LLM) piyasaya sürülmesinden bu yana, "AI psikozu" (AI Psychosis) ile ilgili birçok vaka ortaya çıkmıştır. Birçok kişi AI'yi ruhsal bir sığınak olarak görmeye başladı; burç, duygusal ve diğer ruhsal sorunlar için hepsi AI'ye başvurmakta, bu da sanrılar ve aşırı bağımlılığa yol açmaktadır.
Yazar, bu AI modellerinin kullanıcıların düşüncelerini "dinlemesine" rağmen gerçek olmadığını düşünüyor. Çünkü onlar hissetme yetisine sahip değil, anlamazlar ve sevgi gösteremezler; ayrıca acı ve utanç gibi insanlara özgü duyguları da deneyimlemediler. Sadece aileyle, yanındaki gerçek arkadaşlarla ve sevdiklerle iletişim kurulduğunda duygular gerçekten ifade edilebilir; lütfen gerçek insanlarla iletişim kurmaya özen gösterin.
( ile ChatGPT kullanarak ruhsal gücü mü açığa çıkarıyorsunuz? Microsoft uyarıyor: "Yapay Zeka Psikozu" vakalarına dikkat edin )
Bu makale ChatGPT'nin genç intihar vakalarını ele alıyor! OpenAI: GPT-5'in psikolojik koruma mekanizmasını güçlendirdi. İlk olarak Chain News ABMedia'da yayımlandı.