Fairness accent

Overall scores

	w2v2-b	w2v2-L	w2v2-L-robust	w2v2-L-xls-r	w2v2-L-vox
Overall Score	96.8% passed tests (120 passed / 4 failed).	100.0% passed tests (124 passed / 0 failed).	99.2% passed tests (123 passed / 1 failed).	99.2% passed tests (123 passed / 1 failed).	98.4% passed tests (122 passed / 2 failed).

Mean Value

Threshold: 0.075

Data	Mean Value
	w2v2-b	w2v2-L	w2v2-L-robust	w2v2-L-xls-r	w2v2-L-vox
speech-accent-archive-2.2.0-amharic	-0.08	-0.05	-0.05	-0.06	-0.08
speech-accent-archive-2.2.0-arabic	0.03	0.01	0.01	-0.00	0.01
speech-accent-archive-2.2.0-bengali	0.00	0.01	-0.02	-0.00	0.00
speech-accent-archive-2.2.0-bulgarian	-0.05	-0.05	-0.03	-0.06	-0.05
speech-accent-archive-2.2.0-cantonese	-0.02	0.00	0.01	-0.02	-0.03
speech-accent-archive-2.2.0-dutch	0.01	-0.00	0.02	0.00	-0.01
speech-accent-archive-2.2.0-english	0.04	0.03	0.04	0.02	0.03
speech-accent-archive-2.2.0-farsi	-0.01	0.00	0.00	0.01	0.00
speech-accent-archive-2.2.0-french	-0.03	-0.04	-0.04	-0.03	-0.03
speech-accent-archive-2.2.0-german	0.05	0.04	0.05	0.06	0.05
speech-accent-archive-2.2.0-greek	0.05	0.03	0.03	0.05	0.05
speech-accent-archive-2.2.0-hindi	0.03	0.02	0.01	0.02	0.02
speech-accent-archive-2.2.0-italian	0.02	0.01	0.00	-0.00	0.01
speech-accent-archive-2.2.0-japanese	0.01	0.01	0.01	0.03	0.03
speech-accent-archive-2.2.0-korean	-0.00	-0.02	-0.03	-0.03	-0.03
speech-accent-archive-2.2.0-macedonian	0.03	0.07	0.05	0.05	0.04
speech-accent-archive-2.2.0-mandarin	0.09	0.07	0.06	0.07	0.06
speech-accent-archive-2.2.0-nepali	-0.02	-0.00	-0.00	-0.00	-0.00
speech-accent-archive-2.2.0-polish	0.01	-0.01	0.02	0.01	0.02
speech-accent-archive-2.2.0-portuguese	-0.01	-0.00	-0.00	0.01	-0.00
speech-accent-archive-2.2.0-romanian	-0.05	-0.04	-0.05	-0.04	-0.03
speech-accent-archive-2.2.0-russian	0.03	0.02	0.04	0.02	0.02
speech-accent-archive-2.2.0-serbian	-0.07	-0.05	-0.04	-0.04	-0.03
speech-accent-archive-2.2.0-spanish	-0.05	-0.04	-0.03	-0.04	-0.05
speech-accent-archive-2.2.0-swedish	-0.02	-0.03	-0.01	-0.01	-0.01
speech-accent-archive-2.2.0-tagalog	0.05	0.04	0.02	0.03	0.04
speech-accent-archive-2.2.0-thai	-0.02	-0.01	-0.02	-0.03	-0.01
speech-accent-archive-2.2.0-turkish	0.06	0.05	0.05	0.06	0.04
speech-accent-archive-2.2.0-ukrainian	0.02	-0.00	-0.01	0.00	-0.01
speech-accent-archive-2.2.0-urdu	0.01	0.01	0.01	0.02	0.02
speech-accent-archive-2.2.0-vietnamese	-0.06	-0.04	-0.04	-0.04	-0.04
mean	0.00	0.00	0.00	0.00	0.00

Relative Difference Per Bin

Bins with too few samples are skipped.

Threshold: 0.225

Data	(-inf, 0.25]					(0.25, 0.5]					(0.5, 0.75]					(0.75, inf]
	w2v2-b	w2v2-L	w2v2-L-robust	w2v2-L-xls-r	w2v2-L-vox	w2v2-b	w2v2-L	w2v2-L-robust	w2v2-L-xls-r	w2v2-L-vox	w2v2-b	w2v2-L	w2v2-L-robust	w2v2-L-xls-r	w2v2-L-vox	w2v2-b	w2v2-L	w2v2-L-robust	w2v2-L-xls-r	w2v2-L-vox
speech-accent-archive-2.2.0-amharic	0.25	0.00	0.07	0.08	0.23	-0.12	0.13	0.04	0.09	-0.15	-0.12	-0.13	-0.11	-0.17	-0.08
speech-accent-archive-2.2.0-arabic	-0.03	-0.02	-0.04	0.00	0.02	-0.04	-0.05	-0.01	-0.01	-0.11	0.08	0.06	0.05	0.00	0.09
speech-accent-archive-2.2.0-bengali	0.04	-0.06	0.01	-0.03	-0.04	-0.08	0.07	0.05	0.05	0.07	0.04	-0.01	-0.06	-0.02	-0.03
speech-accent-archive-2.2.0-bulgarian	0.09	0.07	0.01	0.11	0.07	0.02	0.06	0.06	0.05	0.02	-0.11	-0.13	-0.08	-0.16	-0.09
speech-accent-archive-2.2.0-cantonese	0.06	-0.03	-0.03	-0.02	0.06	-0.04	0.03	0.04	0.12	-0.01	-0.01	-0.00	-0.01	-0.09	-0.05
speech-accent-archive-2.2.0-dutch	-0.00	0.08	-0.06	0.03	-0.04	-0.09	-0.14	0.02	-0.04	0.00	0.10	0.06	0.03	0.02	0.04
speech-accent-archive-2.2.0-english	-0.03	0.09	0.03	0.11	0.04	-0.11	-0.21	-0.23	-0.25	-0.09	0.14	0.12	0.19	0.14	0.05
speech-accent-archive-2.2.0-farsi	-0.11	-0.02	-0.01	-0.09	-0.06	0.23	0.09	0.06	0.15	0.12	-0.11	-0.08	-0.05	-0.06	-0.06
speech-accent-archive-2.2.0-french	0.03	0.09	0.08	0.08	0.07	0.03	-0.00	0.00	-0.03	-0.04	-0.06	-0.08	-0.09	-0.04	-0.03
speech-accent-archive-2.2.0-german	-0.20	-0.06	-0.07	-0.09	-0.12	0.14	-0.02	-0.04	-0.05	0.08	0.06	0.08	0.11	0.14	0.04
speech-accent-archive-2.2.0-greek	-0.18	-0.03	-0.05	-0.05	-0.11	0.12	-0.08	0.05	-0.05	0.02	0.05	0.11	-0.00	0.10	0.09
speech-accent-archive-2.2.0-hindi	-0.03	-0.03	-0.06	-0.03	-0.07	-0.08	-0.07	0.02	-0.05	-0.02	0.10	0.11	0.04	0.08	0.09
speech-accent-archive-2.2.0-italian	-0.04	-0.00	0.01	-0.00	-0.03	0.03	-0.05	0.00	0.05	-0.03	0.01	0.06	-0.01	-0.04	0.06
speech-accent-archive-2.2.0-japanese	-0.05	-0.02	-0.02	-0.03	-0.07	0.04	0.02	0.05	-0.05	0.00	-0.01	-0.00	-0.03	0.08	0.07
speech-accent-archive-2.2.0-korean	-0.00	0.08	0.09	0.13	0.08	0.00	-0.07	-0.11	-0.08	-0.06	-0.01	-0.01	0.02	-0.05	-0.02
speech-accent-archive-2.2.0-macedonian	-0.00	-0.05	-0.04	-0.09	-0.09	-0.08	-0.17	-0.10	-0.05	-0.08	0.08	0.22	0.14	0.13	0.17
speech-accent-archive-2.2.0-mandarin	-0.20	-0.06	-0.07	-0.09	-0.12	0.04	-0.10	-0.08	-0.13	0.03	0.16	0.16	0.15	0.22	0.09
speech-accent-archive-2.2.0-nepali	0.02	-0.04	-0.06	-0.03	-0.01	0.06	0.09	0.14	0.05	0.08	-0.08	-0.05	-0.08	-0.02	-0.07
speech-accent-archive-2.2.0-polish	-0.06	-0.02	-0.03	-0.07	-0.08	0.04	0.08	-0.06	0.11	0.12	0.02	-0.06	0.09	-0.04	-0.04
speech-accent-archive-2.2.0-portuguese	0.00	-0.06	-0.06	-0.05	-0.09	0.06	0.11	0.05	0.08	0.11	-0.06	-0.06	0.01	-0.02	-0.02
speech-accent-archive-2.2.0-romanian	0.11	0.02	0.06	-0.00	0.01	-0.01	0.12	0.04	0.15	0.09	-0.10	-0.14	-0.11	-0.15	-0.10
speech-accent-archive-2.2.0-russian	-0.10	-0.06	-0.07	-0.09	-0.09	0.07	0.14	0.07	0.04	0.11	0.03	-0.08	0.01	0.05	-0.02
speech-accent-archive-2.2.0-serbian	0.17	0.12	0.16	0.08	0.12	-0.08	-0.00	-0.10	0.04	-0.08	-0.09	-0.12	-0.06	-0.12	-0.04
speech-accent-archive-2.2.0-spanish	0.13	0.07	0.10	0.10	0.12	-0.03	0.06	-0.06	-0.05	-0.03	-0.09	-0.13	-0.04	-0.05	-0.09
speech-accent-archive-2.2.0-swedish	-0.03	0.01	-0.01	0.01	-0.01	0.08	0.06	0.06	0.06	0.03	-0.04	-0.07	-0.06	-0.07	-0.02
speech-accent-archive-2.2.0-tagalog	-0.09	0.01	-0.00	0.01	-0.00	0.01	-0.14	-0.01	-0.12	-0.03	0.08	0.13	0.01	0.12	0.03
speech-accent-archive-2.2.0-thai	0.15	0.02	0.09	0.09	0.12	-0.10	-0.04	-0.15	-0.13	-0.17	-0.05	0.03	0.07	0.04	0.05
speech-accent-archive-2.2.0-turkish	-0.11	-0.03	-0.07	-0.06	-0.05	-0.02	-0.13	-0.06	-0.05	0.01	0.13	0.17	0.13	0.11	0.04
speech-accent-archive-2.2.0-ukrainian	-0.13	-0.05	-0.06	-0.09	-0.07	0.10	0.10	0.12	0.13	0.14	0.04	-0.05	-0.06	-0.04	-0.07
speech-accent-archive-2.2.0-urdu	-0.01	0.02	-0.05	0.02	-0.06	-0.02	-0.06	0.07	-0.15	0.01	0.03	0.05	-0.02	0.12	0.05
speech-accent-archive-2.2.0-vietnamese	0.15	-0.03	0.07	-0.01	0.09	-0.02	0.15	0.04	0.14	-0.01	-0.13	-0.12	-0.11	-0.13	-0.08
mean	-0.01	0.00	-0.00	-0.00	-0.01	0.00	-0.00	-0.00	0.00	0.00	0.00	0.00	0.00	0.00	0.00

Visualization

w2v2-b	w2v2-L	w2v2-L-robust	w2v2-L-xls-r	w2v2-L-vox