Parece que esta vez ahora si es en serio, después de que en el 2014 había anunciado su retiro, regresó con los Steelers para jugar cuatro temporadas más. A pesar de que no acabó su trayectoria con Pittsburgh, sino con los New England Patriots y hasta llegó a disputar el último Super Bowl donde cayeron ante los Philadelphia Eagles, James Harrison será recordado por vestir los colores de los Pittsburgh Steelers.
2013 y 2017 fueron los años en los que el linebacker jugó en otras escuadras. Primeramente, con los Cincinnati Bengals, en el cual disputó 15 partidos de temporada regular, pero apenas sumó dos capturas y no fue un referente en la defensiva como se esperaba que fuera al llegar a un equipo dentro de la división de la AFC Norte. Por otro lado, tras la baja de rendimiento sobre el terreno de juego y la falta de compromiso que llegaron a comentar algunos jugadores de Pittsburgh, Harrison salió de la institución en el 2017 y rápidamente encontró cabida con los Patriots, los cuales le dieron la oportunidad de disputar sus últimos juegos.
Uno de los jugadores más importantes en la historia de la defensiva de los Steelers, pero más allá de eso, fue un líder en la defensiva que aparecía en los momentos importantes para que el club pudiera ganar juegos vitales. En total, estuvo durante dos etapas con Pittsburgh, la primera llegando en el 2002, pero solamente jugó un partido en su primera temporada. Ya en el 2003 se hizo de la titularidad y fue partícipe en los Super Bowls cuando derrotaron a Seattle Seahawks y Arizona Cardinals, así como en la derrota contra los Green Bay Packers; posteriormente, jugó con Pittsburgh del 2014 al 2017, aunque ya no les alcanzó para llegar al máximo juego.
80.5 capturas registró con los Steelers y 84.5 en toda su carrera deportiva. Además, en el 2008, consiguió 16 capturas siendo uno de los récords obtenidos con el equipo.
También, en el Super Bowl XLIII logró la intercepción de 100 yardas a Kurt Warner para llevarla hasta el touchdown cuando se acababa el primer medio, obteniendo el regresó más largo en la historia de los Super Bowls, la devolución más larga en la historia de la franquicia e igualmente, logrando una de las jugadas más memorables de todos los tiempos en la NFL.