Hannibal zog weiter nach Süden und plünderte mit seiner Armee ganze Landstriche. Die römischen Legionen folgten Hanniabl zwar, aber sie griffen nicht ein; zu gross war die Schmach der vorangehenden Schlachten gewesen. Zugleich musste Hannibal aber einsehen, dass auch ihm Grenzen gesetzt waren. Denn er war seinem Ziel, der Auflösung des römischen Bündnissystems, nicht näher gekommen und so musste er auf eine weitere Schlacht hoffen. Im Sommer des Jahres 216 vor Chr. sollte es soweit sein. Ein Heer von 80000 Legionären sammelte sich auf einem Schlachtfeld bei Cannae; dem stand ein weniger als halb so großes karthagisches Heer gegenüber. Trotzdem fand Hannibal einen Weg, um die Unterlegenheit seiner Infanterie zu kompensieren und die feindliche Übermacht nicht zur Entfaltung kommen lassen.

Sein Zentrum, bestehend aus Galliern und Spaniern, schob er halbmondförmig vor und stellte rückwärts daneben gestaffelt seine in römischer Weise geschulten libyschen Truppen auf. So traf der römische Stoss zunächst die Gallier und Spanier, die langsam zurückwichen. Als nun die Römer nachdrängten, griffen von beiden Seiten die Libyer in den Kampf ein und nahmen die dicht zusammengeballten römischen Haufen in die Zange. Der römische Angriff verlangsamte sich und kam schliesslich ganz ins Stocken. In diesem Augenblick erschienen im Rücken der Römer die karthagischen Reiter, die zuvor die römischen Schwadronen geschlagen hatten. Die zusammengedrängten Römer fanden keinen Ausweg mehr und wurden trotz ihrer zahlenmäßigen Überlegenheit fast völlig vernichtet. Nur dem Konsul Varro gelang es mit einigen wenigen Reitern, nach Canusium zu entkommen, wo er während den folgenden Tagen die Versprengten, insgesamt einige tausend Mann, um sich sammelte.

Für einen Augenblick mochte es so aussehen als wäre der Krieg entschieden. Alexander der Grosse hatte einst in drei Schlachten die Macht des Perserkönigs zertrümmert. Aber die Geschichte wiederholte sich nicht. Rom dachte nicht daran zu kapitulieren und die alten Staatsmänner, an der Spitze Fabius Maximus, waren der Situation gewachsen. Obwohl Hannibal mehrere Aussenposten in Süditalien einnehmen konnte, blieben diese voneinander isoliert und so gelang es ihm nicht eine richtige Basis zu finden, um seinen Angriff auf das römische Kernland zu starten. Die karthagische Offensive verebbte in Italien sowie in Spanien. Diese Ereignisse wurden aber von einem anderem überschattet.

Zwei weitere Mächte traten auf Seite der Karthager in den Krieg ein. Zu einem Prinz Philipp V. von Makedonien und die Stadt Syrakus. Wobei die Unterstützung Prinz Philipps V. eher moralisch als militärisch genannt werden darf. Mit der Hilfe Syrakus' aber viel den Karthagern fast ganz Sizilien in die Hände. Rom musste einige Legionen aus Süditalien abziehen, um den totalen Untergang Siziliens aufzuhalten. Dies gab Hannibal wieder mehr Bewegungsfreiraum in Italien und es schien als könnte er seine Stützpunkte zu einer Linie zusammen schliessen. Den Römern kam aber zu Gute, dass sich die Kampfgeschehnisse nicht nur auf Italien erstreckten: Sie feierten entlastende Erfolge in Sizilien, das man wieder zurückerobern konnte, und in Spanien mit der Einnahme der Stadt Saguntum. Durch diese Erfolge konnten die Römer einige Truppen aus den Krisengebieten abziehen und sie zum Brandherd Süditaliens verlegen. Dadurch gelang es den Römern mit Capua die wichtigste Stadt, die Hannibal bis dato in Italien hatte einnehmen können, zu befreien: Dies sollte der Anfang vom Ende Hannibals sein.

Während die Karthager in ihren eigenen Reihen zerstritten waren, wählten die Römer ihren neuen Konsuln Publius Cornelius Scipio (210 vor Chr.). Eine bessere Wahl hätte man nicht treffen können. Als Scipio in Spanien ankam, vollführte er sogleich einen kühnen Zug entlang der Küste und drang bis zur Stadt Carthgo Nova vor und konnte sie einnehmen. Der Fall von Neukarthago hatte weitreichende Folgen. Nicht nur die meisten spanischen Städte traten zu Scipio über, sondern auch die karthagische Stellung in Spanien war damit an der Wurzel getroffen.

Noch ein letztes Mal sollte sich für die Römer auf eigenem Boden Gefahr zeigen. Der geschlagene Feldherr Hasdrubal, der Bruder Hannibals, zog mit seinem Heer ein weiteres Mal über die Alpen. Aber im Grunde überschätzten die Römer die Gefahr. Hasdrubal war mit Hannibal nicht zu vergleichen. Ihm fehlte der Elan und vor allem das strategische Genie. Hasdrubals Heer wurde aufgerieben noch bevor es sich mit dem Hannibals vereinigen konnte. Zur gleichen Zeit schloss man einen Frieden mit dem Führer der Makedonen, Philipp V. Rom wollte die Hände frei haben für einen letzten militärischen Schlag gegen Karthago. Scipio, der mittlerweilen aus Spanien zurückgekehrt war, wurde der Auftrag, die Karthager auf ihrem eigenen Heimatland anzugreiffen, erteilt. Als ihn 204 vor Chr. die Nachricht erreichte, dass König Syphax von Numidien, bisher ein Verbündeter Roms, das Bündnis mit sofortiger Wirkung auflösen würde, wenn sich römische Truppen auf karthagisches Staatsgebiet wagen sollten, war er schon zur Abreise bereit und sie wurde nicht verschoben. So geriet er nach der Landung in Afrika zunächst in grosse Schwierigkeiten, da er seine Pläne darauf aufgebaut hatte, dass König Syphax ihn unterstützen würde. Scipio sah sich gezwungen in Friedensverhandlungen mit den Karthagern einzutreten. Er tat dies aber nur zum Schein, um über die Wintermonate hinwegzukommen. Als der Winter aber vorbei war, beendete er die Verhandlungen abrupt und überraschte seinen Gegner damit völlig. Einen Monat später gab es eine Schlacht gegen König Syphax. Er unterlag gegen Scipio und sein Reich fiel wie ein Kartenhaus zusammen. Roms afrikanischer Bundesgenosse Masinissa übernahm das Erbe. Karthago war nun vollkommen isoliert und seine Führer wollten auf die Rückkehr Hannibals aus Italien warten. So schickten sie Gesandte zu Scipio, die um Frieden bitten sollten. Scipio war nicht abgeneigt und er unterbreitete den Karthagern seine Bedingungen. Die Karthager sollten auf sämtliche überseeischen Besitzungen verzichten, die Kriegsflotte auf zwanzig Schiffe reduzieren und Karthago sollte einen Betrag von 5000 Talenten Gold entrichten. Als Scipio noch auf die Genehmigung des Senates wartete, war Hannibal jedoch bereits zurückgekehrt und verwarf die römischen Friedensbedingungen als zu hart.

Hannibals Heer war den Römern zahlenmäßig zwar etwa ebenbürtig aber seine Reiterei war weit unterlegen. Hannibal selbst machte sich darüber keine Illusionen. Er versuchte, als die feindlichen Heere sich bei Zama, etwa 200 Kilometer südlich von Karthago, gegenüberlagen, zunächst zu verhandeln. In einer Unterredung mit Scipio erklärte er sich zum Frieden bereit, wenn die Römer auf die geforderten Tribute und die Reduzierung der Kriegsflotte verzichteten. Als Scipio ablehnte, kam es zum letzten entscheidenden Kampf. Planung und Anlage der Schlacht, die Herausziehung der Veteranen als Reserve zeigten noch einmal Hannibals strategisches Genie, aber das Instrumentarium, über das er verfügte, war unvollkommen und brüchig. Im entscheidenden Augenblick vermochten seine Soldaten den Römern keinen Widerstand mehr zu leisten, und die Schlacht endete mit einer völligen Niederlage. Rom nutzte das aus: Die Friedensvereinbarungen wurden noch einmal erhöht; die Kontribution sollte nun 10000 Talente Gold betragen und die Kriegsflotte wurde auf zehn Schiffe reduziert. Zudem durfte Karthago nur noch innerhalb Afrikas in den Krieg treten und dies auch nur mit der Genehmigung Roms. Karthago war keine Konkurenz mehr für Rom, es war viel mehr vom endgültigen Zerfall bedroht. Der Zweite Punische Krieg endete damit im Jahre 201 vor Christus.

Mit dem Schicksal Karthagos verknüpfte sich auch das Schicksal der Gallier. In einem an Grausamkeit nicht zu übertreffenden Krieg wurden die Gallier für alle Zeiten aus Oberitalien vertrieben. In Spanien rissen die Römer die Macht ebenfalls an sich und gründeten die iberischen Provinzen. Zu ihrer Verwaltung wurden zwei neue Prätoren gewählt. Roms unmittelbarer Machtbereich erstreckte sich nunmehr bis zur Straße von Gibraltar.