A jávnei tanaitanemzedék egyik legeredetibb tagja lévita volt: fiatalkorában a Szentély lévitákból álló kórusában énekelt. Legendák övezik már a születését is. Mestere, Jochánán ben Zákkáj ezt mondta róla: „Boldog a szülôanyja…” Jávnei társa, Doszá ben Hirkánosz tanúsította, hogy édesanyja naponta elvitte bölcsôjében a tanházba, hogy hozzászokjék a Tóra hangjaihoz. Rási úgy tudja, anyja állapotosan rendre a tanházakat járta, és kérte a tudósokat, imádkozzanak, hogy gyermeke nagy tudású zsidó bölcs legyen.
Jeruzsálemben született az elsô Rábbán Gámliél idejében. Rábbán Jochánán ben Zákkáj egyik legtehetségesebb tanítványa volt. Tôle kapta a rabbiképesítést, a szmichát, és már a Szentély pusztulása elôtt is részt vett a Szánhedrin ülésein. Egyes szám elsô személyben beszél a Szentélyben Szukotkor rendezett Bét HáSoévá-ünnepségekrôl.
Ő volt az, aki barátjával, Eliézer ben Hirkánosszal kicsempészte az ostromlott Jeruzsálembôl az agg Jochánán ben Zákkájt. Jávnéban Rábbán Gámliél fontos segítôtársa, a legfelsôbb bíróság elnöke volt. A dúsgazdag Gámliéllal ellentétben Josuá szegény volt, mint a templom egere. Kovácsmesterféle volt, és varrótűket gyártott — mások szerint szénégetô volt –, és nemegyszer vándorolni kényszerült, hogy eladja készítményeit. Pkiinben lakott, ott volt jesivája. Már szó volt róla, hogy Rábbán Gámliél mennyire elcsodálkozott kormos falai láttán, amikor elment hozzá bocsánatot kérni, amiért megbántotta, Josuá pedig szemrehányást tett a fejedelemnek, mert nem tudja, mibôl élnek a Talmud bölcsei.
A. Hyman azt írja, hogy Josuá akkor hagyta el Jávnét, amikor Rábbán Gámliélt visszahelyezték a Szánhedrin elnöki székébe, és elôzôleg megválasztott utódját, Eleázár ben Ĺzárját áv bét dinnek, legfelsôbb bírósági elnöknek nevezték ki az ô helyére. Ennek ellenére idôrôl idôre meglátogatta társait Jávnéban, és gyakran utazott velük külföldre. Azon a híres, kora hajnalig tartó Bné Brák-i tanácskozáson, amelyet a peszáchi Hággádából ismerünk, Josuá is részt vett…
Természeténél fogva mérsékelt volt, minden szélsôséget ellenzett. A Szentély pusztulása után felbukkantak a pesszimisták, akik úgy látták, vége mindennek, vége a zsidóságnak. Ezek nem ettek húst, nem ittak bort, és a gyász egyéb jeleit is állandó szokássá akarták tenni. Josuá vitába szállt velük, és meggyôzte ôket, hogy az élet megy tovább: gyászolni kell az elpusztult Szentélyt, de nem kell túlzásokba esni. Állandóan résen állt, hogy nagy műveltsége, nyelvtudása és a római vezetô körökkel való jó kapcsolatai segítségével gátat vessen az idônkint kitört lázadási kísérleteknek.
Igen csúnya férfi volt: arca fekete volt az állandó nehéz tűzmunkától. Egy római hercegnô egyszer gúnyos megjegyzést tett rá: „Furcsa a szépséges Tóra [vagyis a nagy tudás] ilyen rút edényben!” Josuá megkérdezte a hercegnôt, vajon miben tartja apja, a császár, a legfinomabb borait. „Cserépkorsóban” — válaszolta az. „Miért nem tartja apád ôfelsége a bort arany- vagy ezüstedényben? Nem engedheti meg magának?” — kérdezte a bölcs. A hercegnô beszámolt apjának a beszélgetésrôl, aki erre aranyedénybe töltette át a bort, s a drága ital megsavanyodott…
A talmudi legenda szerint rabbi Josuá külföldi utazásai során Athénba is eljutott, és allegorikus, nagyrészt érthetetlen vitákat folytatott az ottani bölcsekkel. A római császárokkal folytatott vitái igen tanulságosak, nemegyszer pszichológusi képességekrôl tanúskodnak. Hadrianus egyszer így szólt hozzá: „Azt mondják, ti, zsidók, okosak vagytok. Mondd meg, mit fogok az éjjel álmodni!” Josuá azt felelte: a császár arról fog álmodni, hogy a pártusok uralkodnak fölötte. A császár egész nap a jóslatra gondolt, és éjjel természetesen errôl álmodott (Bráchot 56.). Hyman megjegyzi, hogy Josuá kétségtelenül tudta: Róma és Pártia között feszült a viszony, és ez a probléma foglalkoztatja a császárt.
Közvetlenül a Szentély pusztulása után Josuá Rómában járt, ahol a börtönben egy szép zsidó fiatalemberre lelt. Elbeszélgetett vele, és fölismerte, hogy okos, nagy tehetségű ifjú. Megesküdött, hogy akármibe kerül is, kiváltja a rabságból, mert bizonyosan nagy tudós lesz belôle. ěgy lett gazdagabb a tanaiták köre Jismáél ben Elisával.
Talán a legnagyobb tette az volt, hogy Hadrianus idejében megakadályozta a kilátástalan fölkelést. Másutt már szó volt róla, hogy a császár uralkodásának elsô éveiben ígéretet tett a zsidóknak, hogy engedélyezi a Szentély újjáépítését. Kijelentését nagy ovációval fogadták, rengeteg pénzt gyűjtöttek, és számtalan önkéntes jelentkezett a szent munkára. Közben a zsidóság ellenségei elérték, hogy a császár meggondolja magát, és különbözô kifogásokkal hátráltassa a munkálatokat. Például azt mondta, hogy meg akarja változtatni a Szentély méreteit és helyét, mert tudta, hogy ebbe a zsidók nem egyezhetnek bele. A kezdeti lelkesedést nagy csalódás váltotta föl: a feszült hangulatban egy pillanat alatt lázadás törhetett ki. Josuá ben Chánánjá, aki immáron öregember volt, összehívta a népet, és elmesélte a gólyáról és az oroszlánról szóló tanmesét:
Az állatok királyának egyszer torkán akadt egy szálka. Nagy jutalmat ígért annak, aki megszabadítja a szenvedéstôl. A gólya hosszú csôrével kiszedte a szálkát, és kérte a jutalmat. Azt mondta neki az oroszlán: „Menj, híreszteld el, hogy bent jártál az oroszlán torkában, és épségben kijöttél onnan…”
A zsidók megértették a mesét, és lecsillapodtak. Egyes vélemények szerint Josuá közvetlenül a Bár Kochbá-féle lázadás elôtt halt meg. Ha élt volna, valószínűleg megakadályozza a fölösleges vérontást.
Családjáról úgyszólván semmit sem tudunk, mindössze annyit, hogy felesége kohánita lány volt, és hogy állandóan gyengélkedett. Josuá így kommentálta ezt: „ůgy látszik, Ĺron fôpapnak, a kohániták atyjának nem tetszik, hogy ilyen veje van, mint én…”
Kilencvenéves kora körül halt meg. Hite, tudása, odaadása a zsidó nép egyik legnagyobb fiává tette, aki nagyon nehéz idôkben állt a nép viharban hánykódó hajójának parancsnoki hídján. Hadrianus császár egyszer gúnyosan megjegyezte: „Milyen [nehéz] lehet a báránynak hetven farkas között!” Josuá azonnal rávágta a választ: „Igen, de milyen erôs az şr, aki védelmezi a bárányt!…” (Eszter Rábá 1.)