CU Boulder Üniversitesi'nden bilgisayar bilimci Theodora Chaspari ve ekibi, yapay zekanın zihinsel sağlık taramalarında cinsiyete ve ırkçı önyargılar taşıyabileceğini ortaya koydu. Araştırma, yapay zekanın farklı konuşma tarzlarına sahip kişileri (örneğin kadın ve erkekler) doğru bir şekilde değerlendiremeyebileceğini gösteriyor. Bu durum, bazı gruplardan insanların zihinsel sağlık sorunlarını teşhis etmek için gereken desteği almamalarına yol açabilir.
Örneğin, yapay zeka kadınlarda depresyon riskini erkeklerden daha fazla teşhis ediyor gibi görünüyor. Bu da gerçekte ihtiyaç duydukları yardımı alamayan kadınları riske atıyor.
Chaspari, yapay zekanın sağlık alanında umut vadeden bir teknoloji olduğunu belirtiyor, ancak doğru ve kapsayıcı bir şekilde eğitilmesi gerektiğini vurguluyor. Yapay zekanın önyargıları gidermek için daha kapsamlı veri kümeleri kullanılması gerekiyor.