Refill some copyright headers.
[bpt/emacs.git] / lisp / org / org-publish.el
index bac8636..4a0a46f 100644 (file)
@@ -1,10 +1,11 @@
 ;;; org-publish.el --- publish related org-mode files as a website
-;; Copyright (C) 2006, 2007, 2008, 2009  Free Software Foundation, Inc.
+;; Copyright (C) 2006, 2007, 2008, 2009, 2010, 2011
+;;          Free Software Foundation, Inc.
 
 ;; Author: David O'Toole <dto@gnu.org>
 ;; Maintainer: Carsten Dominik <carsten DOT dominik AT gmail DOT com>
 ;; Keywords: hypermedia, outlines, wp
-;; Version: 6.30c
+;; Version: 7.4
 
 ;; This file is part of GNU Emacs.
 ;;
@@ -31,7 +32,7 @@
 ;; + Publish all one's org-files to HTML or PDF
 ;; + Upload HTML, images, attachments and other files to a web server
 ;; + Exclude selected private pages from publishing
-;; + Publish a clickable index of pages
+;; + Publish a clickable sitemap of pages
 ;; + Manage local timestamps for publishing only changed files
 ;; + Accept plugin functions to extend range of publishable content
 ;;
 
 ;;; Code:
 
+
+(defun org-publish-sanitize-plist (plist)
+  (mapcar (lambda (x)
+           (or (cdr (assq x '((:index-filename . :sitemap-filename)
+                              (:index-title . :sitemap-title)
+                              (:index-function . :sitemap-function)
+                              (:index-style . :sitemap-style)
+                              (:auto-index . :auto-sitemap))))
+               x))
+         plist))
+
 (eval-when-compile
   (require 'cl))
 (require 'org)
@@ -59,11 +71,14 @@ Each element of the alist is a publishing 'project.'  The CAR of
 each element is a string, uniquely identifying the project.  The
 CDR of each element is in one of the following forms:
 
-  (:property value :property value ... )
+1. A well-formed property list with an even number of elements, alternating
+   keys and values, specifying parameters for the publishing process.
 
-OR,
+     (:property value :property value ... )
 
-  (:components (\"project-1\" \"project-2\" ...))
+2. A meta-project definition, specifying of a list of sub-projects:
+
+     (:components (\"project-1\" \"project-2\" ...))
 
 When the CDR of an element of org-publish-project-alist is in
 this second form, the elements of the list after :components are
@@ -80,7 +95,8 @@ Most properties are optional, but some should always be set:
 
   :base-directory        Directory containing publishing source files
   :base-extension        Extension (without the dot!) of source files.
-                         This can be a regular expression.
+                         This can be a regular expression.  If not given,
+                         \"org\" will be used as default extension.
   :publishing-directory  Directory (possibly remote) where output
                          files will be published
 
@@ -112,9 +128,11 @@ project for publishing.  For example, you could call GNU Make on a
 certain makefile, to ensure published files are built up to date.
 
   :preparation-function   Function to be called before publishing
-                          this project.
+                          this project.  This may also be a list
+                          of functions.
   :completion-function    Function to be called after publishing
-                          this project.
+                          this project.  This may also be a list
+                          of functions.
 
 Some properties control details of the Org publishing process,
 and are equivalent to the corresponding user variables listed in
@@ -144,28 +162,49 @@ learn more about their use and default values.
   :author                `user-full-name'
   :email                 `user-mail-address'
 
-The following properties may be used to control publishing of an
-index of files or summary page for a given project.
+The following properties may be used to control publishing of a
+sitemap of files or summary page for a given project.
 
-  :auto-index            Whether to publish an index during
+  :auto-sitemap           Whether to publish a sitemap during
                          `org-publish-current-project' or `org-publish-all'.
-  :index-filename        Filename for output of index.  Defaults
+  :sitemap-filename      Filename for output of sitemap.  Defaults
                          to 'sitemap.org' (which becomes 'sitemap.html').
-  :index-title           Title of index page.  Defaults to name of file.
-  :index-function        Plugin function to use for generation of index.
-                         Defaults to `org-publish-org-index', which
+  :sitemap-title         Title of sitemap page.  Defaults to name of file.
+  :sitemap-function      Plugin function to use for generation of sitemap.
+                         Defaults to `org-publish-org-sitemap', which
                          generates a plain list of links to all files
                          in the project.
-  :index-style           Can be `list' (index is just an itemized list
+  :sitemap-style         Can be `list' (sitemap is just an itemized list
                          of the titles of the files involved) or
                          `tree' (the directory structure of the source
-                         files is reflected in the index).  Defaults to
-                         `tree'."
+                         files is reflected in the sitemap).  Defaults to
+                         `tree'.
+
+  If you create a sitemap file, adjust the sorting like this:
+
+  :sitemap-sort-folders    Where folders should appear in the sitemap.
+                           Set this to `first' (default) or `last' to
+                           display folders first or last, respectively.
+                           Any other value will mix files and folders.
+  :sitemap-alphabetically  The site map is normally sorted alphabetically.
+                           Set this explicitly to nil to turn off sorting.
+  :sitemap-ignore-case     Should sorting be case-sensitive?  Default nil.
+
+The following properties control the creation of a concept index.
+
+  :makeindex             Create a concept index.
+
+Other properties affecting publication.
+
+  :body-only              Set this to 't' to publish only the body of the
+                         documents, excluding everything outside and 
+                         including the <body> tags in HTML, or 
+                         \begin{document}..\end{document} in LaTeX."
   :group 'org-publish
   :type 'alist)
 
 (defcustom org-publish-use-timestamps-flag t
-  "When non-nil, use timestamp checking to publish only changed files.
+  "Non-nil means use timestamp checking to publish only changed files.
 When nil, do no timestamp checking and always publish all files."
   :group 'org-publish
   :type 'boolean)
@@ -177,14 +216,14 @@ When nil, do no timestamp checking and always publish all files."
   :type 'directory)
 
 (defcustom org-publish-list-skipped-files t
-  "Non-nil means, show message about files *not* published."
+  "Non-nil means show message about files *not* published."
   :group 'org-publish
   :type 'boolean)
 
 (defcustom org-publish-before-export-hook nil
   "Hook run before export on the Org file.
 The hook may modify the file in arbitrary ways before publishing happens.
-The orgiginal version of the buffer will be restored after publishing."
+The original version of the buffer will be restored after publishing."
   :group 'org-publish
   :type 'hook)
 
@@ -194,6 +233,34 @@ Any changes made by this hook will be saved."
   :group 'org-publish
   :type 'hook)
 
+(defcustom org-publish-sitemap-sort-alphabetically t
+  "Should sitemaps be sorted alphabetically by default?
+
+You can overwrite this default per project in your
+`org-publish-project-alist', using `:sitemap-alphabetically'."
+  :group 'org-publish
+  :type 'boolean)
+
+(defcustom org-publish-sitemap-sort-folders 'first
+  "A symbol, denoting if folders are sorted first in sitemaps.
+Possible values are `first', `last', and nil.
+If `first', folders will be sorted before files.
+If `last', folders are sorted to the end after the files.
+Any other value will not mix files and folders.
+
+You can overwrite this default per project in your
+`org-publish-project-alist', using `:sitemap-sort-folders'."
+  :group 'org-publish
+  :type 'symbol)
+
+(defcustom org-publish-sitemap-sort-ignore-case nil
+  "Sort sitemaps case insensitively by default?
+
+You can overwrite this default per project in your
+`org-publish-project-alist', using `:sitemap-ignore-case'."
+  :group 'org-publish
+  :type 'boolean)
+
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
 ;;; Timestamp-related functions
 
@@ -201,29 +268,19 @@ Any changes made by this hook will be saved."
   "Return path to timestamp file for filename FILENAME."
   (setq filename (concat filename "::" (or pub-dir "") "::"
                         (format "%s" (or pub-func ""))))
-  (concat (file-name-as-directory org-publish-timestamp-directory)
-         "X" (if (fboundp 'sha1) (sha1 filename) (md5 filename))))
+  (concat "X" (if (fboundp 'sha1) (sha1 filename) (md5 filename))))
 
 (defun org-publish-needed-p (filename &optional pub-dir pub-func true-pub-dir)
-  "Return `t' if FILENAME should be published in PUB-DIR using PUB-FUNC.
-TRUE-PUB-DIR is there the file will truely end up.  Currently we are not using
+  "Return t if FILENAME should be published in PUB-DIR using PUB-FUNC.
+TRUE-PUB-DIR is where the file will truly end up.  Currently we are not using
 this - maybe it can eventually be used to check if the file is present at
 the target location, and how old it is.  Right ow we cannot do this, because
 we do not know under what file name the file will be stored - the publishing
 function can still decide about that independently."
   (let ((rtn
         (if org-publish-use-timestamps-flag
-            (if (file-exists-p org-publish-timestamp-directory)
-                ;; first handle possible wrong timestamp directory
-                (if (not (file-directory-p org-publish-timestamp-directory))
-                    (error "Org publish timestamp: %s is not a directory"
-                           org-publish-timestamp-directory)
-                  ;; there is a timestamp, check if FILENAME is newer
-                  (file-newer-than-file-p
-                   filename (org-publish-timestamp-filename
-                             filename pub-dir pub-func)))
-              (make-directory org-publish-timestamp-directory)
-              t)
+            (org-publish-cache-file-needs-publishing
+             filename pub-dir pub-func)
           ;; don't use timestamps, always return t
           t)))
     (if rtn
@@ -235,55 +292,33 @@ function can still decide about that independently."
 (defun org-publish-update-timestamp (filename &optional pub-dir pub-func)
   "Update publishing timestamp for file FILENAME.
 If there is no timestamp, create one."
-  (let ((timestamp-file (org-publish-timestamp-filename
-                        filename pub-dir pub-func))
-       newly-created-timestamp)
-    (if (not (file-exists-p timestamp-file))
-       ;; create timestamp file if needed
-       (with-temp-buffer
-         (make-directory (file-name-directory timestamp-file) t)
-         (write-file timestamp-file)
-         (setq newly-created-timestamp t)))
-    ;; Emacs 21 doesn't have `set-file-times'
-    (if (and (fboundp 'set-file-times)
-            (not newly-created-timestamp))
-       (set-file-times timestamp-file)
-      (call-process "touch" nil 0 nil (expand-file-name timestamp-file)))))
+  (let ((key (org-publish-timestamp-filename filename pub-dir pub-func))
+       (stamp (org-publish-cache-ctime-of-src filename)))
+    (org-publish-cache-set key stamp)))
 
 (defun org-publish-remove-all-timestamps ()
-  "Remove all files in the timstamp directory."
+  "Remove all files in the timestamp directory."
   (let ((dir org-publish-timestamp-directory)
        files)
     (when (and (file-exists-p dir)
               (file-directory-p dir))
-      (mapc 'delete-file (directory-files dir 'full "[^.]\\'")))))
+      (mapc 'delete-file (directory-files dir 'full "[^.]\\'"))
+      (org-publish-reset-cache))))
 
 
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
-;;; Mapping files to project names
-
-(defvar org-publish-files-alist nil
-  "Alist of files and their parent projects.
-Each element of this alist is of the form:
-
-  (file-name . project-name)")
+;;;
 
 (defvar org-publish-initial-buffer nil
   "The buffer `org-publish' has been called from.")
 (defvar org-publish-temp-files nil
   "Temporary list of files to be published.")
 
-(defun org-publish-initialize-files-alist (&optional refresh)
-  "Set `org-publish-files-alist' if it is not set.
-Also set it if the optional argument REFRESH is non-nil."
-  (interactive "P")
-  (when (or refresh (not org-publish-files-alist))
-    (setq org-publish-files-alist
-         (org-publish-get-files org-publish-project-alist))))
+;; Here, so you find the variable right before it's used the first time:
+(defvar org-publish-cache nil
+  "This will cache timestamps and titles for files in publishing projects.
+Blocks could hash sha1 values here.")
 
-(defun org-publish-validate-link (link &optional directory)
-  "Check if LINK points to a file in the current project."
-  (assoc (expand-file-name link directory) org-publish-files-alist))
 
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
 ;;; Compatibility aliases
@@ -306,27 +341,11 @@ This is a compatibility function for Emacsen without `delete-dups'."
     list))
 
 (declare-function org-publish-delete-dups "org-publish" (list))
+(declare-function find-lisp-find-files "find-lisp" (directory regexp))
 
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
 ;;; Getting project information out of org-publish-project-alist
 
-(defun org-publish-get-files (projects-alist &optional no-exclusion)
-  "Return the list of all publishable files for PROJECTS-ALIST.
-If NO-EXCLUSION is non-nil, don't exclude files."
-  (let (all-files)
-    ;; add all projects
-    (mapc
-     (lambda(p)
-       (let* ((exclude (plist-get (cdr p) :exclude))
-             (files (and p (org-publish-get-base-files p exclude))))
-        ;; add all files from this project
-        (mapc (lambda(f)
-                (add-to-list 'all-files
-                             (cons (expand-file-name f) (car p))))
-              files)))
-     (org-publish-expand-projects projects-alist))
-    all-files))
-
 (defun org-publish-expand-projects (projects-alist)
   "Expand projects in PROJECTS-ALIST.
 This splices all the components into the list."
@@ -340,6 +359,42 @@ This splices all the components into the list."
        (push p rtn)))
     (nreverse (org-publish-delete-dups (delq nil rtn)))))
 
+
+(defvar sitemap-alphabetically)
+(defvar sitemap-sort-folders)
+(defvar sitemap-ignore-case)
+(defvar sitemap-requested)
+(defun org-publish-compare-directory-files (a b)
+  "Predicate for `sort', that sorts folders-first/last and alphabetically."
+  (let ((retval t))
+    (when (or sitemap-alphabetically sitemap-sort-folders)
+      ;; First we sort alphabetically:
+      (when sitemap-alphabetically
+        (let* ((adir (file-directory-p a))
+               (aorg (and (string-match "\\.org$" a) (not adir)))
+               (bdir (file-directory-p b))
+               (borg (and (string-match "\\.org$" b) (not bdir)))
+               (A (if aorg
+                      (concat (file-name-directory a)
+                              (org-publish-find-title a)) a))
+               (B (if borg
+                      (concat (file-name-directory b)
+                              (org-publish-find-title b)) b)))
+          (setq retval (if sitemap-ignore-case
+                          (not (string-lessp (upcase B) (upcase A)))
+                        (not (string-lessp B A))))))
+
+      ;; Directory-wise wins:
+      (when sitemap-sort-folders
+        ;; a is directory, b not:
+        (cond
+         ((and (file-directory-p a) (not (file-directory-p b)))
+          (setq retval (equal sitemap-sort-folders 'first)))
+          ;; a is not a directory, but b is:
+         ((and (not (file-directory-p a)) (file-directory-p b))
+          (setq retval (equal sitemap-sort-folders 'last))))))
+    retval))
+
 (defun org-publish-get-base-files-1 (base-dir &optional recurse match skip-file skip-dir)
   "Set `org-publish-temp-files' with files from BASE-DIR directory.
 If RECURSE is non-nil, check BASE-DIR recursively.  If MATCH is
@@ -358,8 +413,12 @@ matching the regexp SKIP-DIR when recursing through BASE-DIR."
                          (and skip-file (string-match skip-file fnd))
                          (not (file-exists-p (file-truename f)))
                          (not (string-match match fnd)))
+
                (pushnew f org-publish-temp-files)))))
-       (directory-files base-dir t (unless recurse match))))
+       (if sitemap-requested
+           (sort (directory-files base-dir t (unless recurse match))
+                 'org-publish-compare-directory-files)
+         (directory-files base-dir t (unless recurse match)))))
 
 (defun org-publish-get-base-files (project &optional exclude-regexp)
   "Return a list of all files in PROJECT.
@@ -371,9 +430,29 @@ matching filenames."
         (include-list (plist-get project-plist :include))
         (recurse (plist-get project-plist :recursive))
         (extension (or (plist-get project-plist :base-extension) "org"))
+        ;; sitemap-... variables are dynamically scoped for
+        ;; org-publish-compare-directory-files:
+        (sitemap-requested
+         (plist-get project-plist :auto-sitemap))
+        (sitemap-sort-folders
+         (if (plist-member project-plist :sitemap-sort-folders)
+             (plist-get project-plist :sitemap-sort-folders)
+           org-publish-sitemap-sort-folders))
+        (sitemap-alphabetically
+         (if (plist-member project-plist :sitemap-alphabetically)
+             (plist-get project-plist :sitemap-alphabetically)
+           org-publish-sitemap-sort-alphabetically))
+        (sitemap-ignore-case
+         (if (plist-member project-plist :sitemap-ignore-case)
+             (plist-get project-plist :sitemap-ignore-case)
+           org-publish-sitemap-sort-ignore-case))
         (match (if (eq extension 'any)
                     "^[^\\.]"
                  (concat "^[^\\.].*\\.\\(" extension "\\)$"))))
+    ;; Make sure sitemap-sort-folders' has an accepted value
+    (unless (memq sitemap-sort-folders '(first last))
+      (setq sitemap-sort-folders nil))
+
     (setq org-publish-temp-files nil)
     (org-publish-get-base-files-1 base-dir recurse match
                                  ;; FIXME distinguish exclude regexp
@@ -387,9 +466,33 @@ matching filenames."
     org-publish-temp-files))
 
 (defun org-publish-get-project-from-filename (filename &optional up)
-  "Return the project FILENAME belongs."
-  (let* ((project-name (cdr (assoc (expand-file-name filename)
-                                  org-publish-files-alist))))
+  "Return the project that FILENAME belongs to."
+  (let* ((filename (expand-file-name filename))
+        project-name)
+
+    (catch 'p-found
+      (dolist (prj org-publish-project-alist)
+       (unless (plist-get (cdr prj) :components)
+         ;; [[info:org:Selecting%20files]] shows how this is supposed to work:
+         (let* ((r (plist-get (cdr prj) :recursive))
+                (b (expand-file-name (file-name-as-directory
+                                      (plist-get (cdr prj) :base-directory))))
+                (x (or (plist-get (cdr prj) :base-extension) "org"))
+                (e (plist-get (cdr prj) :exclude))
+                (i (plist-get (cdr prj) :include))
+                (xm (concat "^" b (if r ".+" "[^/]+") "\\.\\(" x "\\)$")))
+           (when (or
+                  (and 
+                   i 
+                   (member filename 
+                           (mapcar 
+                            (lambda (file) (expand-file-name file b))
+                            i)))
+                  (and
+                   (not (and e (string-match e filename)))
+                   (string-match xm filename)))
+             (setq project-name (car prj))
+             (throw 'p-found project-name))))))
     (when up
       (dolist (prj org-publish-project-alist)
        (if (member project-name (plist-get (cdr prj) :components))
@@ -421,13 +524,15 @@ PUB-DIR is the publishing directory."
        (setq export-buf-or-file
              (funcall (intern (concat "org-export-as-" format))
                       (plist-get plist :headline-levels)
-                      nil plist nil nil pub-dir))
+                      nil plist nil 
+                      (plist-get plist :body-only) 
+                      pub-dir))
        (when (and (bufferp export-buf-or-file)
                   (buffer-live-p export-buf-or-file))
          (set-buffer export-buf-or-file)
          ;; run hooks after export and save export
-         (and (run-hooks 'org-publish-after-export-hook)
-              (if (buffer-modified-p) (save-buffer)))
+         (progn (run-hooks 'org-publish-after-export-hook)
+                (if (buffer-modified-p) (save-buffer)))
          (kill-buffer export-buf-or-file))
        ;; maybe restore buffer's content
        (set-buffer init-buf)
@@ -439,34 +544,65 @@ PUB-DIR is the publishing directory."
        (unless visiting
          (kill-buffer init-buf))))))
 
+(defmacro org-publish-with-aux-preprocess-maybe (&rest body)
+  "Execute BODY with a modified hook to preprocess for index."
+  `(let ((org-export-preprocess-after-headline-targets-hook
+        (if (plist-get project-plist :makeindex)
+            (cons 'org-publish-aux-preprocess
+                  org-export-preprocess-after-headline-targets-hook)
+          org-export-preprocess-after-headline-targets-hook)))
+     ,@body))
+
+(defvar project-plist)
 (defun org-publish-org-to-latex (plist filename pub-dir)
   "Publish an org file to LaTeX.
 See `org-publish-org-to' to the list of arguments."
-  (org-publish-org-to "latex" plist filename pub-dir))
+  (org-publish-with-aux-preprocess-maybe
+   (org-publish-org-to "latex" plist filename pub-dir)))
 
 (defun org-publish-org-to-pdf (plist filename pub-dir)
   "Publish an org file to PDF (via LaTeX).
 See `org-publish-org-to' to the list of arguments."
-  (org-publish-org-to "pdf" plist filename pub-dir))
+  (org-publish-with-aux-preprocess-maybe
+   (org-publish-org-to "pdf" plist filename pub-dir)))
 
 (defun org-publish-org-to-html (plist filename pub-dir)
   "Publish an org file to HTML.
 See `org-publish-org-to' to the list of arguments."
-  (org-publish-org-to "html" plist filename pub-dir))
+  (org-publish-with-aux-preprocess-maybe
+    (org-publish-org-to "html" plist filename pub-dir)))
 
 (defun org-publish-org-to-org (plist filename pub-dir)
   "Publish an org file to HTML.
 See `org-publish-org-to' to the list of arguments."
   (org-publish-org-to "org" plist filename pub-dir))
 
+(defun org-publish-org-to-ascii (plist filename pub-dir)
+  "Publish an org file to ASCII.
+See `org-publish-org-to' to the list of arguments."
+  (org-publish-with-aux-preprocess-maybe
+    (org-publish-org-to "ascii" plist filename pub-dir)))
+
+(defun org-publish-org-to-latin1 (plist filename pub-dir)
+  "Publish an org file to Latin-1.
+See `org-publish-org-to' to the list of arguments."
+  (org-publish-with-aux-preprocess-maybe
+    (org-publish-org-to "latin1" plist filename pub-dir)))
+
+(defun org-publish-org-to-utf8 (plist filename pub-dir)
+  "Publish an org file to UTF-8.
+See `org-publish-org-to' to the list of arguments."
+  (org-publish-with-aux-preprocess-maybe
+    (org-publish-org-to "utf8" plist filename pub-dir)))
+
 (defun org-publish-attachment (plist filename pub-dir)
   "Publish a file with no transformation of any kind.
 See `org-publish-org-to' to the list of arguments."
   ;; make sure eshell/cp code is loaded
-  (unless (file-directory-p pub-dir)
-    (make-directory pub-dir t))
-  (or (equal (expand-file-name (file-name-directory filename))
-            (file-name-as-directory (expand-file-name pub-dir)))
+    (unless (file-directory-p pub-dir)
+      (make-directory pub-dir t))
+    (or (equal (expand-file-name (file-name-directory filename))
+              (file-name-as-directory (expand-file-name pub-dir)))
       (copy-file filename
                 (expand-file-name (file-name-nondirectory filename) pub-dir)
                 t)))
@@ -474,30 +610,39 @@ See `org-publish-org-to' to the list of arguments."
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
 ;;; Publishing files, sets of files, and indices
 
-(defun org-publish-file (filename &optional project)
-  "Publish file FILENAME from PROJECT."
+(defun org-publish-file (filename &optional project no-cache)
+  "Publish file FILENAME from PROJECT.
+If NO-CACHE is not nil, do not initialize org-publish-cache and
+write it to disk.  This is needed, since this function is used to
+publish single files, when entire projects are published.
+See `org-publish-projects'."
   (let* ((project
          (or project
              (or (org-publish-get-project-from-filename filename)
-                 (if (y-or-n-p
-                      (format "%s is not in a project.  Re-read the list of projects files? "
-                              (abbreviate-file-name filename)))
-                     ;; If requested, re-initialize the list of projects files
-                     (progn (org-publish-initialize-files-alist t)
-                            (or (org-publish-get-project-from-filename filename)
-                                (error "File %s not part of any known project"
-                                       (abbreviate-file-name filename))))
-                   (error "Can't publish file outside of a project")))))
+                 (error "File %s not part of any known project"
+                        (abbreviate-file-name filename)))))
         (project-plist (cdr project))
-        (ftname (file-truename filename))
+        (ftname (expand-file-name filename))
         (publishing-function
          (or (plist-get project-plist :publishing-function)
              'org-publish-org-to-html))
-        (base-dir (file-name-as-directory
-                   (file-truename (plist-get project-plist :base-directory))))
-        (pub-dir (file-name-as-directory
-                  (file-truename (plist-get project-plist :publishing-directory))))
+        (base-dir
+         (file-name-as-directory
+          (expand-file-name
+           (or (plist-get project-plist :base-directory)
+               (error "Project %s does not have :base-directory defined"
+                      (car project))))))
+        (pub-dir
+         (file-name-as-directory
+          (file-truename
+           (or (plist-get project-plist :publishing-directory)
+               (error "Project %s does not have :publishing-directory defined"
+                      (car project))))))
         tmp-pub-dir)
+
+    (unless no-cache
+      (org-publish-initialize-cache (car project)))
+
     (setq tmp-pub-dir
          (file-name-directory
           (concat pub-dir
@@ -514,35 +659,47 @@ See `org-publish-org-to' to the list of arguments."
                                  tmp-pub-dir)
        (funcall publishing-function project-plist filename tmp-pub-dir)
        (org-publish-update-timestamp
-        filename pub-dir publishing-function)))))
+        filename pub-dir publishing-function)))
+    (unless no-cache (org-publish-write-cache-file))))
 
 (defun org-publish-projects (projects)
   "Publish all files belonging to the PROJECTS alist.
-If :auto-index is set, publish the index too."
+If :auto-sitemap is set, publish the sitemap too.
+If :makeindex is set, also produce a file theindex.org."
   (mapc
    (lambda (project)
+     ;; Each project uses it's own cache file:
+     (org-publish-initialize-cache (car project))
      (let*
         ((project-plist (cdr project))
          (exclude-regexp (plist-get project-plist :exclude))
-         (index-p (plist-get project-plist :auto-index))
-         (index-filename (or (plist-get project-plist :index-filename)
-                             "sitemap.org"))
-         (index-function (or (plist-get project-plist :index-function)
-                             'org-publish-org-index))
+         (sitemap-p (plist-get project-plist :auto-sitemap))
+         (sitemap-filename (or (plist-get project-plist :sitemap-filename)
+                               "sitemap.org"))
+         (sitemap-function (or (plist-get project-plist :sitemap-function)
+                               'org-publish-org-sitemap))
          (preparation-function (plist-get project-plist :preparation-function))
          (completion-function (plist-get project-plist :completion-function))
          (files (org-publish-get-base-files project exclude-regexp)) file)
-       (when preparation-function (funcall preparation-function))
-       (if index-p (funcall index-function project index-filename))
+       (when preparation-function (run-hooks 'preparation-function))
+       (if sitemap-p (funcall sitemap-function project sitemap-filename))
        (while (setq file (pop files))
-        (org-publish-file file project))
-       (when completion-function (funcall completion-function))))
+        (org-publish-file file project t))
+       (when (plist-get project-plist :makeindex)
+        (org-publish-index-generate-theindex.inc
+         (plist-get project-plist :base-directory))
+        (org-publish-file (expand-file-name
+                           "theindex.org"
+                           (plist-get project-plist :base-directory))
+                          project t))
+       (when completion-function (run-hooks 'completion-function))
+     (org-publish-write-cache-file)))
    (org-publish-expand-projects projects)))
 
-(defun org-publish-org-index (project &optional index-filename)
-  "Create an index of pages in set defined by PROJECT.
-Optionally set the filename of the index with INDEX-FILENAME.
-Default for INDEX-FILENAME is 'sitemap.org'."
+(defun org-publish-org-sitemap (project &optional sitemap-filename)
+  "Create a sitemap of pages in set defined by PROJECT.
+Optionally set the filename of the sitemap with SITEMAP-FILENAME.
+Default for SITEMAP-FILENAME is 'sitemap.org'."
   (let* ((project-plist (cdr project))
         (dir (file-name-as-directory
               (plist-get project-plist :base-directory)))
@@ -550,28 +707,28 @@ Default for INDEX-FILENAME is 'sitemap.org'."
         (indent-str (make-string 2 ?\ ))
         (exclude-regexp (plist-get project-plist :exclude))
         (files (nreverse (org-publish-get-base-files project exclude-regexp)))
-        (index-filename (concat dir (or index-filename "sitemap.org")))
-        (index-title (or (plist-get project-plist :index-title)
-                         (concat "Index for project " (car project))))
-        (index-style (or (plist-get project-plist :index-style)
+        (sitemap-filename (concat dir (or sitemap-filename "sitemap.org")))
+        (sitemap-title (or (plist-get project-plist :sitemap-title)
+                         (concat "Sitemap for project " (car project))))
+        (sitemap-style (or (plist-get project-plist :sitemap-style)
                          'tree))
-        (visiting (find-buffer-visiting index-filename))
-        (ifn (file-name-nondirectory index-filename))
-        file index-buffer)
-    (with-current-buffer (setq index-buffer
-                              (or visiting (find-file index-filename)))
+        (visiting (find-buffer-visiting sitemap-filename))
+        (ifn (file-name-nondirectory sitemap-filename))
+        file sitemap-buffer)
+    (with-current-buffer (setq sitemap-buffer
+                              (or visiting (find-file sitemap-filename)))
       (erase-buffer)
-      (insert (concat "#+TITLE: " index-title "\n\n"))
+      (insert (concat "#+TITLE: " sitemap-title "\n\n"))
       (while (setq file (pop files))
        (let ((fn (file-name-nondirectory file))
              (link (file-relative-name file dir))
              (oldlocal localdir))
-         ;; index shouldn't index itself
-         (unless (equal (file-truename index-filename)
+         ;; sitemap shouldn't list itself
+         (unless (equal (file-truename sitemap-filename)
                         (file-truename file))
-           (if (eq index-style 'list)
-               (message "Generating list-style index for %s" index-title)
-             (message "Generating tree-style index for %s" index-title)
+           (if (eq sitemap-style 'list)
+               (message "Generating list-style sitemap for %s" sitemap-title)
+             (message "Generating tree-style sitemap for %s" sitemap-title)
              (setq localdir (concat (file-name-as-directory dir)
                                     (file-name-directory link)))
              (unless (string= localdir oldlocal)
@@ -600,15 +757,16 @@ Default for INDEX-FILENAME is 'sitemap.org'."
                            (org-publish-find-title file)
                            "]]\n")))))
       (save-buffer))
-    (or visiting (kill-buffer index-buffer))))
+    (or visiting (kill-buffer sitemap-buffer))))
 
 (defun org-publish-find-title (file)
-  "Find the title of file in project."
-  (let* ((visiting (find-buffer-visiting file))
+  "Find the title of FILE in project."
+  (or
+   (org-publish-cache-get-file-property file :title nil t)
+   (let* ((visiting (find-buffer-visiting file))
         (buffer (or visiting (find-file-noselect file)))
         title)
-    (save-excursion
-      (set-buffer buffer)
+    (with-current-buffer buffer
       (let* ((opt-plist (org-combine-plists (org-default-export-plist)
                                            (org-infile-export-plist))))
        (setq title
@@ -619,7 +777,8 @@ Default for INDEX-FILENAME is 'sitemap.org'."
                  (file-name-nondirectory (file-name-sans-extension file))))))
     (unless visiting
       (kill-buffer buffer))
-    title))
+    (org-publish-cache-set-file-property file :title title)
+    title)))
 
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
 ;;; Interactive publishing functions
@@ -641,7 +800,12 @@ Default for INDEX-FILENAME is 'sitemap.org'."
   (save-window-excursion
     (let* ((org-publish-use-timestamps-flag
            (if force nil org-publish-use-timestamps-flag)))
-      (org-publish-projects (list project)))))
+      (org-publish-projects
+       (if (stringp project)
+          ;; If this function is called in batch mode,
+          ;; project is still a string here.
+          (list (assoc project org-publish-project-alist))
+          (list project))))))
 
 ;;;###autoload
 (defun org-publish-all (&optional force)
@@ -651,18 +815,17 @@ directory and force publishing all files."
   (interactive "P")
   (when force
     (org-publish-remove-all-timestamps))
-  (org-publish-initialize-files-alist)
   (save-window-excursion
     (let ((org-publish-use-timestamps-flag
           (if force nil org-publish-use-timestamps-flag)))
       (org-publish-projects org-publish-project-alist))))
 
+
 ;;;###autoload
 (defun org-publish-current-file (&optional force)
   "Publish the current file.
 With prefix argument, force publish the file."
   (interactive "P")
-  (org-publish-initialize-files-alist)
   (save-window-excursion
     (let ((org-publish-use-timestamps-flag
           (if force nil org-publish-use-timestamps-flag)))
@@ -674,18 +837,245 @@ With prefix argument, force publish the file."
 With a prefix argument, force publishing of all files in
 the project."
   (interactive "P")
-  (org-publish-initialize-files-alist)
   (save-window-excursion
     (let ((project (org-publish-get-project-from-filename (buffer-file-name) 'up))
          (org-publish-use-timestamps-flag
           (if force nil org-publish-use-timestamps-flag)))
       (if (not project)
          (error "File %s is not part of any known project" (buffer-file-name)))
+      ;; FIXME: force is not used here?
       (org-publish project))))
 
-(provide 'org-publish)
 
+;;; Index generation
+
+(defvar backend) ; dynamically scoped
+(defun org-publish-aux-preprocess ()
+  "Find index entries and write them to an .orgx file."
+  (let ((case-fold-search t)
+       entry index target)
+    (goto-char (point-min))
+    (while
+       (and
+        (re-search-forward "^[ \t]*#\\+index:[ \t]*\\(.*?\\)[ \t]*$" nil t)
+        (> (match-end 1) (match-beginning 1)))
+      (setq entry (match-string 1))
+      (when (eq backend 'latex)
+       (replace-match (format "\\index{%s}" entry) t t))
+      (save-excursion
+       (ignore-errors (org-back-to-heading t))
+       (setq target (get-text-property (point) 'target))
+       (setq target (or (cdr (assoc target org-export-preferred-target-alist))
+                        (cdr (assoc target org-export-id-target-alist))
+                        target ""))
+       (push (cons entry target) index)))
+    (with-temp-file
+       (concat (file-name-sans-extension org-current-export-file) ".orgx")
+      (dolist (entry (nreverse index))
+       (insert (format "INDEX: (%s) %s\n" (cdr entry) (car entry)))))))
+
+(defun org-publish-index-generate-theindex.inc (directory)
+  "Generate the index from all .orgx files in the current directory and below."
+  (require 'find-lisp)
+  (let* ((fulldir (file-name-as-directory
+                  (expand-file-name directory)))
+        (full-files (find-lisp-find-files directory "\\.orgx\\'"))
+        (re (concat "\\`" fulldir))
+        (files (mapcar (lambda (f) (if (string-match re f)
+                                       (substring f (match-end 0))
+                                     f))
+                       full-files))
+        (default-directory directory)
+        index origfile buf target entry ibuffer
+        main last-main letter last-letter file sub link tgext)
+    ;; `files' contains the list of relative file names
+    (dolist (file files)
+      (setq origfile (substring file 0 -1))
+      (setq buf (find-file-noselect file))
+      (with-current-buffer buf
+       (goto-char (point-min))
+       (while (re-search-forward "^INDEX: (\\(.*?\\)) \\(.*\\)" nil t)
+         (setq target (match-string 1)
+               entry (match-string 2))
+         (push (list entry origfile target) index)))
+      (kill-buffer buf))
+    (setq index (sort index (lambda (a b) (string< (downcase (car a))
+                                                  (downcase (car b))))))
+    (setq ibuffer (find-file-noselect (expand-file-name "theindex.inc" directory)))
+    (with-current-buffer ibuffer
+      (erase-buffer)
+      (insert "* Index\n")
+      (setq last-letter nil)
+      (dolist (idx index)
+       (setq entry (car idx) file (nth 1 idx) target (nth 2 idx))
+       (if (and (stringp target) (string-match "\\S-" target))
+           (setq tgext (concat "::#" target))
+         (setq tgext ""))
+       (setq letter (upcase (substring entry 0 1)))
+       (when (not (equal letter last-letter))
+         (insert "** " letter "\n")
+         (setq last-letter letter))
+       (if (string-match "!" entry)
+           (setq main (substring entry 0 (match-beginning 0))
+                 sub (substring entry (match-end 0)))
+         (setq main nil sub nil last-main nil))
+       (when (and main (not (equal main last-main)))
+         (insert "   - " main "\n")
+         (setq last-main main))
+       (setq link (concat "[[file:" file tgext "]"
+                          "[" (or sub entry) "]]"))
+       (if (and main sub)
+           (insert "     - " link "\n")
+         (insert "   - " link "\n")))
+      (save-buffer))
+    (kill-buffer ibuffer)
+
+    (let ((index-file (expand-file-name "theindex.org" directory)))
+      (unless (file-exists-p index-file)
+       (setq ibuffer (find-file-noselect index-file))
+       (with-current-buffer ibuffer
+         (erase-buffer)
+         (insert "\n\n#+include: \"theindex.inc\"\n\n")
+         (save-buffer))
+       (kill-buffer ibuffer)))))
+
+
+;; Caching functions:
+
+(defun org-publish-write-cache-file (&optional free-cache)
+  "Write `org-publish-cache' to file.
+If FREE-CACHE, empty the cache."
+  (unless org-publish-cache
+    (error "%s" "`org-publish-write-cache-file' called, but no cache present"))
+
+  (let ((cache-file (org-publish-cache-get ":cache-file:")))
+    (unless cache-file
+      (error
+       "%s" "Cannot find cache-file name in `org-publish-write-cache-file'"))
+    (with-temp-file cache-file
+      (let ((print-level nil)
+           (print-length nil))
+       (insert "(setq org-publish-cache (make-hash-table :test 'equal :weakness nil :size 100))\n")
+       (maphash (lambda (k v)
+                  (insert
+                   (format (concat "(puthash %S "
+                                   (if (or (listp v) (symbolp v))
+                                       "'" "")
+                                   "%S org-publish-cache)\n") k v)))
+                org-publish-cache)))
+    (when free-cache (org-publish-reset-cache))))
+
+(defun org-publish-initialize-cache (project-name)
+  "Initialize the projects cache if not initialized yet and return it."
+
+  (unless project-name
+    (error "%s%s" "Cannot initialize `org-publish-cache' without projects name"
+          " in `org-publish-initialize-cache'"))
+
+  (unless (file-exists-p org-publish-timestamp-directory)
+    (make-directory org-publish-timestamp-directory t))
+  (if (not (file-directory-p org-publish-timestamp-directory))
+      (error "Org publish timestamp: %s is not a directory"
+            org-publish-timestamp-directory))
+
+  (unless (and org-publish-cache
+              (string= (org-publish-cache-get ":project:") project-name))
+    (let* ((cache-file (concat
+                       (expand-file-name org-publish-timestamp-directory)
+                       project-name
+                       ".cache"))
+          (cexists (file-exists-p cache-file)))
+
+      (when org-publish-cache
+       (org-publish-reset-cache))
+
+      (if cexists
+         (load-file cache-file)
+       (setq org-publish-cache
+             (make-hash-table :test 'equal :weakness nil :size 100))
+       (org-publish-cache-set ":project:" project-name)
+       (org-publish-cache-set ":cache-file:" cache-file))
+      (unless cexists (org-publish-write-cache-file nil))))
+  org-publish-cache)
+
+(defun org-publish-reset-cache ()
+  "Empty org-publish-cache and reset it nil."
+  (message "%s" "Resetting org-publish-cache")
+  (if (hash-table-p org-publish-cache)
+      (clrhash org-publish-cache))
+  (setq org-publish-cache nil))
+
+(defun org-publish-cache-file-needs-publishing (filename &optional pub-dir pub-func)
+  "Check the timestamp of the last publishing of FILENAME.
+Return `t', if the file needs publishing"
+  (unless org-publish-cache
+    (error "%s" "`org-publish-cache-file-needs-publishing' called, but no cache present"))
+  (let* ((key (org-publish-timestamp-filename filename pub-dir pub-func))
+        (pstamp (org-publish-cache-get key)))
+    (if (null pstamp)
+       t
+      (let ((ctime (org-publish-cache-ctime-of-src filename)))
+       (< pstamp ctime)))))
+
+(defun org-publish-cache-set-file-property (filename property value &optional project-name)
+  "Set the VALUE for a PROPERTY of file FILENAME in publishing cache to VALUE.
+Use cache file of PROJECT-NAME.  If the entry does not exist, it will be
+created.  Return VALUE."
+  ;; Evtl. load the requested cache file:
+  (if project-name (org-publish-initialize-cache project-name))
+  (let ((pl (org-publish-cache-get filename)))
+    (if pl
+       (progn
+         (plist-put pl property value)
+         value)
+      (org-publish-cache-get-file-property
+       filename property value nil project-name))))
+
+(defun org-publish-cache-get-file-property
+  (filename property &optional default no-create project-name)
+  "Return the value for a PROPERTY of file FILENAME in publishing cache.
+Use cache file of PROJECT-NAME. Return the value of that PROPERTY or
+DEFAULT, if the value does not yet exist.
+If the entry will be created, unless NO-CREATE is not nil."
+  ;; Evtl. load the requested cache file:
+  (if project-name (org-publish-initialize-cache project-name))
+  (let ((pl (org-publish-cache-get filename))
+       (retval nil))
+    (if pl
+       (if (plist-member pl property)
+           (setq retval (plist-get pl property))
+         (setq retval default))
+      ;; no pl yet:
+      (unless no-create
+       (org-publish-cache-set filename (list property default)))
+      (setq retval default))
+    retval))
+
+(defun org-publish-cache-get (key)
+  "Return the value stored in `org-publish-cache' for key KEY.
+Returns nil, if no value or nil is found, or the cache does not
+exist."
+  (unless org-publish-cache
+    (error "%s" "`org-publish-cache-get' called, but no cache present"))
+  (gethash key org-publish-cache))
+
+(defun org-publish-cache-set (key value)
+  "Store KEY VALUE pair in `org-publish-cache'.
+Returns value on success, else nil."
+  (unless org-publish-cache
+    (error "%s" "`org-publish-cache-set' called, but no cache present"))
+  (puthash key value org-publish-cache))
+
+(defun org-publish-cache-ctime-of-src (filename)
+  "Get the files ctime as integer."
+  (let ((src-attr (file-attributes filename)))
+    (+
+     (lsh (car (nth 5 src-attr)) 16)
+     (cadr (nth 5 src-attr)))))
+
+
+
+(provide 'org-publish)
 
-;; arch-tag: 72807f3c-8af0-4a6b-8dca-c3376eb25adb
 
 ;;; org-publish.el ends here