Il y a trés longtemps, au Yémen (Arabie), un jeune berger gardait les chèvres dans la montagne. Kaldi remarqua que les bêtes étaient joyeuses et excitées après avoir mangé des baies rouges d'un arbuste qu'il ne connaissait pas. Inquiet, il alla parler de ce phénomène étrange au prieur d'un couvent très proche.

Kaldi et le prieur firent bouillir les fruits qu'ils avaient cueilli pour l'occasion et goûtèrent le breuvage obtenu. Ils se mirent à danser et restèrent éveillés très tard dans la nuit. Le lendemain le prieur servit une tasse de cette boisson magique à tous les moines. Jamais prières ne furent mieux dites. Les moines prirent l'habitude de boire la divine boisson et résister au sommeil lors des longues prières du soir.

Ils lui donnèrent le nom de Kawa en souvenir d'un grand roi persan Kavuskai. L'idée de faire sécher les grains puis de les griller (la torréfaction) date du 15ème siècle.