1964年に神戸で生まれる。東欧ユダヤ系の血を引く父ジョシュ・グリーンフェルドと日本人の母米谷ふみ子は共に作家。パリ、ニューヨーク、香港、東京で生活した後、1987年にサラ・ローレンス大学を卒業。現在はカリフォルニア州に妻と2人の娘と共に住んでいる。
『GQ』や『ヴォーグ』といった雑誌の常連執筆者。『Tokyo Journal』の編集幹事を経て、2002年から2004年まで『Time Asia』の編集者を務める。アジアに関して『Standard Deviations: Growing Up and Coming Down in the New Asia』『Speed Tribes: Days and Nights With Japan's Next Generation』の2冊の旅行記を書いた。近著は、SARSウイルスの蔓延を扱った『China Syndrome: The True Story of the 21st Century's First Great Epidemic』である。
弟のノアはジョシュ・グリーンフェルドの『ノア』三部作（『わが子ノア 自閉症児を育てた父の手記』『ノアの場所 自閉症児に安住の地はあるか』『依頼人ノア 思春期を迎えた自閉症児』）の主人公となった。これらの本には、カール・タロウの少年時代も間接的に描き込まれている。
2009年3月に自閉症の弟をもつ兄として育った自らの体験と、大人の自閉症患者の実態を綴った『Boy Alone: A Brother's Memoir』を出版している。
