на код бы посмотреть. скорее всего считает число тёмных сегментов в пикселях определенной формы. Тут решений может быть множество. И я сомневаюсь что питон в целом для такого предназначен
Потому, что любая нейросеть - не способ точного решения задачи, а эвристика: обходной путь, позволяющий получить примерно правильный ответ примерно в большинстве случаев. И как всякая эвристика, нейросеть не может не ошибаться.