СЗО изрази съмнения относно надеждността на изкуствения интелект

Световната здравна организация (СЗО) предупреди, че използването на големи езикови модели с изкуствен интелект може да доведе до грешки в здравеопазването и да подкопае доверието в надеждността на ИИ. СЗО изрази своя ентусиазъм относно потенциала на изкуствения интелект в здравния сектор, но също така изрази загрижеността си, че не се прилагат стандартни мерки за безопасност, когато става дума за големите езикови модели, пише БТА.

Сред опасенията на СЗО е съмнението, че данните, използвани за обучението на изкуствения интелект, може да са предубедени и да генерират подвеждаща информация. Това може да създаде рискове за здравето на хората и да подкопае безпристрастността и приобщаването в здравеопазването. С големите езикови модели може да бъде злоупотребено с цел разпространението на изключително убедителна дезинформация.

СЗО посочи, че големите езикови модели генерират отговори, които могат да се сторят авторитетни и правдоподобни на крайния потребител. Но тези отговори може да бъдат напълно неправилни или да съдържат сериозни грешки, особено когато става дума за отговорите, свързани със здравето.

СЗО предложи тези опасения да бъдат взети предвид и да бъдат ясно оценени ползите от големите езикови модели, преди те да бъдат използвани.