Anders als bei der Festnetz Telefonie, bei der jeder einzelne Laut über eine festgelegte Verbindung versendet wird, zerteilt man die Daten bei Voice over IP, um sie danach in kleine Datenpakete abzupacken. Diese werden dann versendet, beim Zieltelefon in einem Zwischenspeicher gelagert und anschließend zusammengesetzt über den Lautsprecher ausgegeben. Damit die Sprache klar und qualitativ gut zu hören ist, dürfen die Datenpakete nicht länger als 30 Millisekunden im Zwischenspeicher liegen, und die Übertragung vom Ausgangstelefon zum Zieltelefon nicht länger als 50 Millisekunden. Da dies nicht immer gewährleistet werden kann, ist die Qualität meist nicht ganz so gut wie bei einem herkömmlichem Telefon. Es gibt jedoch Möglichkeiten sie zu verbessern und zu stabilisieren.
Bei einer Bandbreite von unter sechs Megabit in der Sekunde sollte man darauf achten, während dem Telefongespräch alle Downloads und Uploads zu pausieren sowie Seitenaufrufe zu vermeiden. Wenn die Bandbreite sechs Megabit oder darüber ist, hilft es oft im Router die Prioritäten zu konfigurieren bzw. Bandbreite zu reservieren.

Qualität von Voice over IP
Voice over IP Übertragungen sollten immer höchste Priorität bzw eine möglichst hohe Bandbreite reserviert haben. Eine andere Möglichkeit die Qualität zu beeinflussen ist das Ändern des benutzten Audiocodecs. Der derzeitige Standard Codec ist der so genannte G.711 Codec. Dieser gibt die Sprachdateien fast unkomprimiert weiter und bietet damit bestmögliche Sprachqualität. Andere Codecs haben eine höhere Kompressionsrate und sind damit für kleine Bandbreiten besser geeignet. Es gibt auch besondere Codecs wie den Predictions-Codec (Predictions ist englisch für Vorhersage). Dieser Codec sendet nicht das gesamte Dateiarsenal weiter, sondern nur einen Teil. Am Ziel angekommen, versucht der Codec anhand der vorhandenen Dateien den fehlenden Teil zu interpretieren, und simuliert die Sprache dann lokal. Dies spart sehr viel Bandbreite und meist bemerkt der Angerufene gar nicht, das ein Anteil der gehörten Stimme automatisch generiert wurden.
Was viele auch als Qualitätsmanko betrachten ist das leichte Hintergrundrauschen. Dies ist jedoch keinesfalls als Fehler zu sehen, sondern vielmehr gewollt. Anders als beim herkömmlichem Telefon ist es nämlich technisch möglich, das Rauschen komplett auszuschalten. Wenn aber der Gesprächspartner gerade eine Sprechpause macht und man nur noch eine absolute Stille wahrnimmt, kann dies leicht als Verbindungsabriss ausgelegt werden. Deswegen wird permanent ein Rauschen eingeblendet, um den Telefonierenden bewusst zu machen dass die Verbindung aufrecht erhalten wird.
Abschließend zur Qualität kann man sagen, dass noch lange kein Ende an Verbesserungen ansteht. Zeitgleich mit ansteigender Bandbreite wird die Qualität verbessert, schon jetzt gibt es sogenannte Wideband-Codecs. So ist sicherlich zu erwarten, dass die Qualität von Voice over IP in absehbarer Zukunft die von herkömmlichen Telefonen übersteigen wird.