Jiro Taniguchi comenzó a trabajar en 1966 como asistente en el estudio del dibujante de manga Ishikawa Kyota, debutando ya como dibujante en 1970 con Kareta Heya (Un verano seco). En esos primeros años dibujaría historias cortas para diversas revistas, hasta publicar su primera serie propia, Namae no Nai Doubutsu Tachi (Animales sin nombre, Kodansha 1975), una historia protagonizada por animales.
Desde 1976 hasta 1979 publicó numerosos trabajos de todos los géneros con varios guionistas como Natsuo Sekikawa, con quien realizaría obras como Muboi Toshi / Muboushi Toshi (Ciudad sin defensa, 1976), Nashikaze wa Shiroi / Seifuu Ha Shiroi (El viento del Oeste es blanco, 1976) o Lindo 3! (1978).
En los años 1980 volvieron a trabajar juntos en Botchan no jidai (La época Botchan, 1987-1996), obra larga basada en el clásico de la literatura japonesa del escritor Natsume Soseki sobre la vida en Japón durante la era Meiji (finales del siglo XIX), por el que recibiría el Premio Cultural Tezuka Osamu en 1998. También produciría otras obras con diversos guionistas como Carib Marley (Blue Fighter, 1982; Knuckle Wars, 1983; Live! Odyssey, 1983; Rudo Boy; 1984) o Shirow Tozaki, con quien realizaría K (1988). Con Sekikawa volvería a trabajar en Hotel Harbour View (1986), obra publicada en diversos países como EE UU, Francia o España, y que para muchos lectores sería la primera obra conocida del autor.
A partir de 1991 comienza a alternar sus trabajos con otros guionistas con obras en solitario, de corte más intimista, entre las que figuran Aruku hito (El caminante, 1990-1991), Chichi no koyomi (El almanaque de mi padre, 1994). o Haruka-na machi e (Barrio lejano, 1996), que obtuvo el premio L`Alph Art al mejor guión en el Festival de Angulema de 2003 y el premio a la mejor obra en el Salón del Cómic de Barcelona de 2004.
En 1997 publica Ikaru (Ícaro) en la revista semanal Morning, con guiones de Moebius y Jean Annestay, obra que debía extenderse en diversos volúmenes, pero que los problemas de ventas del editor obligaron a cerrar en un final precipitado, recopilándose posteriormente en un único volumen.
Ya en el siglo XXI publica obras como Sosaku Sha (El rastreador, 2000), Seton (2004), Hare yuku sora (Un cielo radiante, 2005) o Mahou no Yama (La montaña mágica, 2007), su primera obra publicada en formato álbum europeo y a color. En 2008 publica la obra autobiográfica Fuyu no dobutsuen (Un zoo en invierno), narrando el traslado desde su pueblo natal a la gran ciudad y sus inicios en el mundo del manga en Tokio, como ayudante de un maestro mangaka.
Taniguchi ha ganado numerosos premios en su Japón natal, y sus trabajos son traducidos en varios idiomas. Es uno de los autores de manga contemporáneos más reconocidos internacionalmente, destacando su presencia en el mercado francés. En España, la mayor parte de su obra ha sido publicada por Ponent Mon.