M. Zuma a fait ces déclarations à la télévision sud-africaine avant de rencontrer le colonel Kadhafi.
Lundi le régime libyen a accusé lundi l'Otan d'avoir tué 11 civils dans des bombardements à 150 km de Tripoli, alors même que Jacob Zuma se trouvait dans la capitale libyenne.
Le président sud-africain a estimé que le fait d'avoir à "demander la permission de l'Otan" pour se rendre en Libye "sape l'intégrité de l'Union africaine".
"Nous ne pouvons permettre que ce conflit dure trop longtemps. Cela pourrait déboucher sur une situation malheureuse pour la Libye et peut-être pour Kadhafi lui-même", a poursuivi le président sud-africain.
La nouvelle initiative diplomatique de Pretoria intervient à un moment où l'Otan a intensifié ses bombardements sur Tripoli dans le but de porter le coup décisif au régime.
L'Union africaine a proposé une "feuille de route" pour mettre fin au conflit, qui a été acceptée par le régime mais a été rejetée par le Conseil national de transition (CNT), l'organe de direction de la rébellion.
La médiation de l'UA prévoit un cessez-le-feu et l'instauration d'une période de transition conduisant à des élections démocratiques, et l'organisation pan-africaine a appelé l'Otan à cesser ses bombardements.
Le Congrès national africain (ANC), parti au pouvoir en Afrique du sud, a condamné dimanche les bombardements de l'Otan en Libye.
Les plus commentés
Un milliard d'euros pour aider le Liban ou pour... « acheter son silence » ?
Le Liban n'a pas besoin d'argent, mais d'une décision politique pour renvoyer les migrants syriens, tacle Bassil
Mikati : Le don de l'UE n'est pas une condition pour que les réfugiés syriens restent au Liban