<?php
include_once $_SERVER['DOCUMENT_ROOT'] . '/include/shared-manual.inc';
$TOC = array();
$TOC_DEPRECATED = array();
$PARENTS = array();
include_once dirname(__FILE__) ."/toc/refs.basic.other.inc";
$setup = array (
  'home' => 
  array (
    0 => 'index.php',
    1 => 'PHP Manual',
  ),
  'head' => 
  array (
    0 => 'UTF-8',
    1 => 'ja',
  ),
  'this' => 
  array (
    0 => 'book.tokenizer.php',
    1 => 'Tokenizer',
    2 => 'Tokenizer',
  ),
  'up' => 
  array (
    0 => 'refs.basic.other.php',
    1 => 'その他の基本モジュール',
  ),
  'prev' => 
  array (
    0 => 'function.tidy-warning-count.php',
    1 => 'tidy_warning_count',
  ),
  'next' => 
  array (
    0 => 'tokenizer.setup.php',
    1 => 'インストール/設定',
  ),
  'alternatives' => 
  array (
  ),
  'source' => 
  array (
    'lang' => 'ja',
    'path' => 'reference/tokenizer/book.xml',
  ),
  'history' => 
  array (
  ),
  'extra_header_links' => 
  array (
    'rel' => 'alternate',
    'href' => '/manual/en/feeds/book.tokenizer.atom',
    'type' => 'application/atom+xml',
  ),
);
$setup["toc"] = $TOC;
$setup["toc_deprecated"] = $TOC_DEPRECATED;
$setup["parents"] = $PARENTS;
manual_setup($setup);

contributors($setup);

?>
<div id="book.tokenizer" class="book">
 
 <h1 class="title">Tokenizer</h1>
 

 <div id="intro.tokenizer" class="preface">
  <h1 class="title">はじめに</h1>
  <p class="para">
   tokenizer 関数は、Zend Engine に組み込まれた PHP tokenizer
   へのインターフェイスを提供します。以下の関数により、
   字句解析レベルの言語処理を行うことなく、
   PHP ソースを解析/修正するツールを作成することが可能となります。
  </p>
  <p class="para">
   <a href="tokens.php" class="link">トークンに関する付録</a>も参照ください。
  </p>
 </div>

 









 







 











 






 









<ul class="chunklist chunklist_book"><li><a href="tokenizer.setup.php">インストール/設定</a><ul class="chunklist chunklist_book chunklist_children"><li><a href="tokenizer.installation.php">インストール手順</a></li></ul></li><li><a href="tokenizer.constants.php">定義済み定数</a></li><li><a href="tokenizer.examples.php">例</a></li><li><a href="class.phptoken.php">PhpToken</a> — PhpToken クラス<ul class="chunklist chunklist_book chunklist_children"><li><a href="phptoken.construct.php">PhpToken::__construct</a> — 新しい PhpToken オブジェクトを返す</li><li><a href="phptoken.gettokenname.php">PhpToken::getTokenName</a> — トークンの名前を返す</li><li><a href="phptoken.is.php">PhpToken::is</a> — 指定された種類のトークンかを調べる</li><li><a href="phptoken.isignorable.php">PhpToken::isIgnorable</a> — トークンがPHPパーサーから無視されるかを調べる</li><li><a href="phptoken.tostring.php">PhpToken::__toString</a> — トークンの文字列表現を返す</li><li><a href="phptoken.tokenize.php">PhpToken::tokenize</a> — ソースコードを PhpToken オブジェクトで表現されたトークンに分割する</li></ul></li><li><a href="ref.tokenizer.php">Tokenizer 関数</a><ul class="chunklist chunklist_book chunklist_children"><li><a href="function.token-get-all.php">token_get_all</a> — 指定したソースを PHP トークンに分割する</li><li><a href="function.token-name.php">token_name</a> — 指定した PHP トークンのシンボル名を取得する</li></ul></li></ul></div><?php manual_footer($setup); ?>