Spelling fixes.
[bpt/emacs.git] / lisp / org / org-publish.el
index 7965523..0c924cd 100644 (file)
@@ -1,11 +1,10 @@
 ;;; org-publish.el --- publish related org-mode files as a website
-;; Copyright (C) 2006, 2007, 2008, 2009, 2010
-;;          Free Software Foundation, Inc.
+;; Copyright (C) 2006-2011  Free Software Foundation, Inc.
 
 ;; Author: David O'Toole <dto@gnu.org>
 ;; Maintainer: Carsten Dominik <carsten DOT dominik AT gmail DOT com>
 ;; Keywords: hypermedia, outlines, wp
-;; Version: 6.35i
+;; Version: 7.7
 
 ;; This file is part of GNU Emacs.
 ;;
 ;;; Code:
 
 
-(defun org-publish-sanitize-plist (plist)
-  (mapcar (lambda (x)
-           (or (cdr (assq x '((:index-filename . :sitemap-filename)
-                              (:index-title . :sitemap-title)
-                              (:index-function . :sitemap-function)
-                              (:index-style . :sitemap-style)
-                              (:auto-index . :auto-sitemap))))
-               x))
-         plist))
-
 (eval-when-compile
   (require 'cl))
 (require 'org)
 (require 'org-exp)
+(require 'format-spec)
 
 (eval-and-compile
   (unless (fboundp 'declare-function)
     (defmacro declare-function (fn file &optional arglist fileonly))))
 
+(defvar org-publish-initial-buffer nil
+  "The buffer `org-publish' has been called from.")
+
+(defvar org-publish-temp-files nil
+  "Temporary list of files to be published.")
+
+;; Here, so you find the variable right before it's used the first time:
+(defvar org-publish-cache nil
+  "This will cache timestamps and titles for files in publishing projects.
+Blocks could hash sha1 values here.")
+
 (defgroup org-publish nil
   "Options for publishing a set of Org-mode and related files."
   :tag "Org Publishing"
@@ -71,11 +72,14 @@ Each element of the alist is a publishing 'project.'  The CAR of
 each element is a string, uniquely identifying the project.  The
 CDR of each element is in one of the following forms:
 
-  (:property value :property value ... )
+1. A well-formed property list with an even number of elements, alternating
+   keys and values, specifying parameters for the publishing process.
+
+     (:property value :property value ... )
 
-OR,
+2. A meta-project definition, specifying of a list of sub-projects:
 
-  (:components (\"project-1\" \"project-2\" ...))
+     (:components (\"project-1\" \"project-2\" ...))
 
 When the CDR of an element of org-publish-project-alist is in
 this second form, the elements of the list after :components are
@@ -92,7 +96,8 @@ Most properties are optional, but some should always be set:
 
   :base-directory        Directory containing publishing source files
   :base-extension        Extension (without the dot!) of source files.
-                         This can be a regular expression.
+                         This can be a regular expression.  If not given,
+                         \"org\" will be used as default extension.
   :publishing-directory  Directory (possibly remote) where output
                          files will be published
 
@@ -151,10 +156,8 @@ learn more about their use and default values.
   :expand-quoted-html    `org-export-html-expand'
   :timestamp             `org-export-html-with-timestamp'
   :publishing-directory  `org-export-publishing-directory'
-  :preamble              `org-export-html-preamble'
-  :postamble             `org-export-html-postamble'
-  :auto-preamble         `org-export-html-auto-preamble'
-  :auto-postamble        `org-export-html-auto-postamble'
+  :html-preamble         `org-export-html-preamble'
+  :html-postamble        `org-export-html-postamble'
   :author                `user-full-name'
   :email                 `user-mail-address'
 
@@ -174,12 +177,39 @@ sitemap of files or summary page for a given project.
                          of the titles of the files involved) or
                          `tree' (the directory structure of the source
                          files is reflected in the sitemap).  Defaults to
-                         `tree'."
+                         `tree'.
+  :sitemap-sans-extension Remove extension from sitemap's
+                           filenames.  Useful to have cool
+                           URIs (see
+                           http://www.w3.org/Provider/Style/URI).
+                           Defaults to nil.
+
+  If you create a sitemap file, adjust the sorting like this:
+
+  :sitemap-sort-folders    Where folders should appear in the sitemap.
+                           Set this to `first' (default) or `last' to
+                           display folders first or last, respectively.
+                           Any other value will mix files and folders.
+  :sitemap-sort-files      The site map is normally sorted alphabetically.
+                           You can change this behavior setting this to
+                           `chronologically', `anti-chronologically' or nil.
+  :sitemap-ignore-case     Should sorting be case-sensitive?  Default nil.
+
+The following properties control the creation of a concept index.
+
+  :makeindex             Create a concept index.
+
+Other properties affecting publication.
+
+  :body-only              Set this to 't' to publish only the body of the
+                         documents, excluding everything outside and
+                         including the <body> tags in HTML, or
+                         \begin{document}..\end{document} in LaTeX."
   :group 'org-publish
   :type 'alist)
 
 (defcustom org-publish-use-timestamps-flag t
-  "When non-nil, use timestamp checking to publish only changed files.
+  "Non-nil means use timestamp checking to publish only changed files.
 When nil, do no timestamp checking and always publish all files."
   :group 'org-publish
   :type 'boolean)
@@ -208,6 +238,70 @@ Any changes made by this hook will be saved."
   :group 'org-publish
   :type 'hook)
 
+(defcustom org-publish-sitemap-sort-files 'alphabetically
+  "How sitemaps files should be sorted by default?
+Possible values are `alphabetically', `chronologically', `anti-chronologically' and nil.
+If `alphabetically', files will be sorted alphabetically.
+If `chronologically', files will be sorted with older modification time first.
+If `anti-chronologically', files will be sorted with newer modification time first.
+nil won't sort files.
+
+You can overwrite this default per project in your
+`org-publish-project-alist', using `:sitemap-sort-files'."
+  :group 'org-publish
+  :type 'symbol)
+
+(defcustom org-publish-sitemap-sort-folders 'first
+  "A symbol, denoting if folders are sorted first in sitemaps.
+Possible values are `first', `last', and nil.
+If `first', folders will be sorted before files.
+If `last', folders are sorted to the end after the files.
+Any other value will not mix files and folders.
+
+You can overwrite this default per project in your
+`org-publish-project-alist', using `:sitemap-sort-folders'."
+  :group 'org-publish
+  :type 'symbol)
+
+(defcustom org-publish-sitemap-sort-ignore-case nil
+  "Sort sitemaps case insensitively by default?
+
+You can overwrite this default per project in your
+`org-publish-project-alist', using `:sitemap-ignore-case'."
+  :group 'org-publish
+  :type 'boolean)
+
+(defcustom org-publish-sitemap-date-format "%Y-%m-%d"
+  "Format for `format-time-string' which is used to print a date
+in the sitemap."
+  :group 'org-publish
+  :type 'string)
+
+(defcustom org-publish-sitemap-file-entry-format "%t"
+  "How a sitemap file entry is formated.
+You could use brackets to delimit on what part the link will be.
+
+%t is the title.
+%a is the author.
+%d is the date formated using `org-publish-sitemap-date-format'."
+  :group 'org-publish
+  :type 'string)
+
+
+;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
+;;; Sanitize-plist (FIXME why?)
+
+(defun org-publish-sanitize-plist (plist)
+  ;; FIXME document
+  (mapcar (lambda (x)
+           (or (cdr (assq x '((:index-filename . :sitemap-filename)
+                              (:index-title . :sitemap-title)
+                              (:index-function . :sitemap-function)
+                              (:index-style . :sitemap-style)
+                              (:auto-index . :auto-sitemap))))
+               x))
+         plist))
+
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
 ;;; Timestamp-related functions
 
@@ -215,29 +309,19 @@ Any changes made by this hook will be saved."
   "Return path to timestamp file for filename FILENAME."
   (setq filename (concat filename "::" (or pub-dir "") "::"
                         (format "%s" (or pub-func ""))))
-  (concat (file-name-as-directory org-publish-timestamp-directory)
-         "X" (if (fboundp 'sha1) (sha1 filename) (md5 filename))))
+  (concat "X" (if (fboundp 'sha1) (sha1 filename) (md5 filename))))
 
 (defun org-publish-needed-p (filename &optional pub-dir pub-func true-pub-dir)
-  "Return `t' if FILENAME should be published in PUB-DIR using PUB-FUNC.
-TRUE-PUB-DIR is there the file will truely end up.  Currently we are not using
+  "Return t if FILENAME should be published in PUB-DIR using PUB-FUNC.
+TRUE-PUB-DIR is where the file will truly end up.  Currently we are not using
 this - maybe it can eventually be used to check if the file is present at
-the target location, and how old it is.  Right ow we cannot do this, because
+the target location, and how old it is.  Right now we cannot do this, because
 we do not know under what file name the file will be stored - the publishing
 function can still decide about that independently."
   (let ((rtn
         (if org-publish-use-timestamps-flag
-            (if (file-exists-p org-publish-timestamp-directory)
-                ;; first handle possible wrong timestamp directory
-                (if (not (file-directory-p org-publish-timestamp-directory))
-                    (error "Org publish timestamp: %s is not a directory"
-                           org-publish-timestamp-directory)
-                  ;; there is a timestamp, check if FILENAME is newer
-                  (file-newer-than-file-p
-                   filename (org-publish-timestamp-filename
-                             filename pub-dir pub-func)))
-              (make-directory org-publish-timestamp-directory)
-              t)
+            (org-publish-cache-file-needs-publishing
+             filename pub-dir pub-func)
           ;; don't use timestamps, always return t
           t)))
     (if rtn
@@ -249,56 +333,20 @@ function can still decide about that independently."
 (defun org-publish-update-timestamp (filename &optional pub-dir pub-func)
   "Update publishing timestamp for file FILENAME.
 If there is no timestamp, create one."
-  (let ((timestamp-file (org-publish-timestamp-filename
-                        filename pub-dir pub-func))
-       newly-created-timestamp)
-    (if (not (file-exists-p timestamp-file))
-       ;; create timestamp file if needed
-       (with-temp-buffer
-         (make-directory (file-name-directory timestamp-file) t)
-         (write-file timestamp-file)
-         (setq newly-created-timestamp t)))
-    ;; Emacs 21 doesn't have `set-file-times'
-    (if (and (fboundp 'set-file-times)
-            (not newly-created-timestamp))
-       (set-file-times timestamp-file)
-      (call-process "touch" nil 0 nil (expand-file-name timestamp-file)))))
+  (let ((key (org-publish-timestamp-filename filename pub-dir pub-func))
+       (stamp (org-publish-cache-ctime-of-src filename)))
+    (org-publish-cache-set key stamp)))
 
 (defun org-publish-remove-all-timestamps ()
-  "Remove all files in the timstamp directory."
+  "Remove all files in the timestamp directory."
   (let ((dir org-publish-timestamp-directory)
        files)
     (when (and (file-exists-p dir)
               (file-directory-p dir))
-      (mapc 'delete-file (directory-files dir 'full "[^.]\\'")))))
+      (mapc 'delete-file (directory-files dir 'full "[^.]\\'"))
+      (org-publish-reset-cache))))
 
 
-;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
-;;; Mapping files to project names
-
-(defvar org-publish-files-alist nil
-  "Alist of files and their parent projects.
-Each element of this alist is of the form:
-
-  (file-name . project-name)")
-
-(defvar org-publish-initial-buffer nil
-  "The buffer `org-publish' has been called from.")
-(defvar org-publish-temp-files nil
-  "Temporary list of files to be published.")
-
-(defun org-publish-initialize-files-alist (&optional refresh)
-  "Set `org-publish-files-alist' if it is not set.
-Also set it if the optional argument REFRESH is non-nil."
-  (interactive "P")
-  (when (or refresh (not org-publish-files-alist))
-    (setq org-publish-files-alist
-         (org-publish-get-files org-publish-project-alist))))
-
-(defun org-publish-validate-link (link &optional directory)
-  "Check if LINK points to a file in the current project."
-  (assoc (expand-file-name link directory) org-publish-files-alist))
-
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
 ;;; Compatibility aliases
 
@@ -325,23 +373,6 @@ This is a compatibility function for Emacsen without `delete-dups'."
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
 ;;; Getting project information out of org-publish-project-alist
 
-(defun org-publish-get-files (projects-alist &optional no-exclusion)
-  "Return the list of all publishable files for PROJECTS-ALIST.
-If NO-EXCLUSION is non-nil, don't exclude files."
-  (let (all-files)
-    ;; add all projects
-    (mapc
-     (lambda(p)
-       (let* ((exclude (plist-get (cdr p) :exclude))
-             (files (and p (org-publish-get-base-files p exclude))))
-        ;; add all files from this project
-        (mapc (lambda(f)
-                (add-to-list 'all-files
-                             (cons (expand-file-name f) (car p))))
-              files)))
-     (org-publish-expand-projects projects-alist))
-    all-files))
-
 (defun org-publish-expand-projects (projects-alist)
   "Expand projects in PROJECTS-ALIST.
 This splices all the components into the list."
@@ -355,6 +386,52 @@ This splices all the components into the list."
        (push p rtn)))
     (nreverse (org-publish-delete-dups (delq nil rtn)))))
 
+(defvar org-sitemap-sort-files)
+(defvar org-sitemap-sort-folders)
+(defvar org-sitemap-ignore-case)
+(defvar org-sitemap-requested)
+(defvar org-sitemap-date-format)
+(defvar org-sitemap-file-entry-format)
+(defun org-publish-compare-directory-files (a b)
+  "Predicate for `sort', that sorts folders and files for sitemap."
+  (let ((retval t))
+    (when (or org-sitemap-sort-files org-sitemap-sort-folders)
+      ;; First we sort files:
+      (when org-sitemap-sort-files
+       (cond ((equal org-sitemap-sort-files 'alphabetically)
+              (let* ((adir (file-directory-p a))
+                     (aorg (and (string-match "\\.org$" a) (not adir)))
+                     (bdir (file-directory-p b))
+                     (borg (and (string-match "\\.org$" b) (not bdir)))
+                     (A (if aorg
+                            (concat (file-name-directory a)
+                                    (org-publish-find-title a)) a))
+                     (B (if borg
+                            (concat (file-name-directory b)
+                                    (org-publish-find-title b)) b)))
+                (setq retval (if org-sitemap-ignore-case
+                                 (not (string-lessp (upcase B) (upcase A)))
+                               (not (string-lessp B A))))))
+               ((or (equal org-sitemap-sort-files 'chronologically)
+                    (equal org-sitemap-sort-files 'anti-chronologically))
+                (let* ((adate (org-publish-find-date a))
+                       (bdate (org-publish-find-date b))
+                       (A (+ (lsh (car adate) 16) (cadr adate)))
+                       (B (+ (lsh (car bdate) 16) (cadr bdate))))
+                  (setq retval (if (equal org-sitemap-sort-files 'chronologically)
+                                   (<= A B)
+                                 (>= A B)))))))
+      ;; Directory-wise wins:
+      (when org-sitemap-sort-folders
+        ;; a is directory, b not:
+        (cond
+         ((and (file-directory-p a) (not (file-directory-p b)))
+          (setq retval (equal org-sitemap-sort-folders 'first)))
+          ;; a is not a directory, but b is:
+         ((and (not (file-directory-p a)) (file-directory-p b))
+          (setq retval (equal org-sitemap-sort-folders 'last))))))
+    retval))
+
 (defun org-publish-get-base-files-1 (base-dir &optional recurse match skip-file skip-dir)
   "Set `org-publish-temp-files' with files from BASE-DIR directory.
 If RECURSE is non-nil, check BASE-DIR recursively.  If MATCH is
@@ -373,8 +450,12 @@ matching the regexp SKIP-DIR when recursing through BASE-DIR."
                          (and skip-file (string-match skip-file fnd))
                          (not (file-exists-p (file-truename f)))
                          (not (string-match match fnd)))
+
                (pushnew f org-publish-temp-files)))))
-       (directory-files base-dir t (unless recurse match))))
+       (if org-sitemap-requested
+           (sort (directory-files base-dir t (unless recurse match))
+                 'org-publish-compare-directory-files)
+         (directory-files base-dir t (unless recurse match)))))
 
 (defun org-publish-get-base-files (project &optional exclude-regexp)
   "Return a list of all files in PROJECT.
@@ -386,10 +467,40 @@ matching filenames."
         (include-list (plist-get project-plist :include))
         (recurse (plist-get project-plist :recursive))
         (extension (or (plist-get project-plist :base-extension) "org"))
+        ;; sitemap-... variables are dynamically scoped for
+        ;; org-publish-compare-directory-files:
+        (org-sitemap-requested
+         (plist-get project-plist :auto-sitemap))
+        (sitemap-filename
+         (or (plist-get project-plist :sitemap-filename)
+             "sitemap.org"))
+        (org-sitemap-sort-folders
+         (if (plist-member project-plist :sitemap-sort-folders)
+             (plist-get project-plist :sitemap-sort-folders)
+           org-publish-sitemap-sort-folders))
+        (org-sitemap-sort-files
+         (cond ((plist-member project-plist :sitemap-sort-files)
+                (plist-get project-plist :sitemap-sort-files))
+               ;; For backward compatibility:
+               ((plist-member project-plist :sitemap-alphabetically)
+                (if (plist-get project-plist :sitemap-alphabetically)
+                    'alphabetically nil))
+               (t org-publish-sitemap-sort-files)))
+        (org-sitemap-ignore-case
+         (if (plist-member project-plist :sitemap-ignore-case)
+             (plist-get project-plist :sitemap-ignore-case)
+           org-publish-sitemap-sort-ignore-case))
         (match (if (eq extension 'any)
                     "^[^\\.]"
                  (concat "^[^\\.].*\\.\\(" extension "\\)$"))))
+    ;; Make sure `org-sitemap-sort-folders' has an accepted value
+    (unless (memq org-sitemap-sort-folders '(first last))
+      (setq org-sitemap-sort-folders nil))
+
     (setq org-publish-temp-files nil)
+    (if org-sitemap-requested
+       (pushnew (expand-file-name (concat base-dir sitemap-filename))
+                 org-publish-temp-files))
     (org-publish-get-base-files-1 base-dir recurse match
                                  ;; FIXME distinguish exclude regexp
                                  ;; for skip-file and skip-dir?
@@ -402,9 +513,33 @@ matching filenames."
     org-publish-temp-files))
 
 (defun org-publish-get-project-from-filename (filename &optional up)
-  "Return the project FILENAME belongs."
-  (let* ((project-name (cdr (assoc (expand-file-name filename)
-                                  org-publish-files-alist))))
+  "Return the project that FILENAME belongs to."
+  (let* ((filename (expand-file-name filename))
+        project-name)
+
+    (catch 'p-found
+      (dolist (prj org-publish-project-alist)
+       (unless (plist-get (cdr prj) :components)
+         ;; [[info:org:Selecting%20files]] shows how this is supposed to work:
+         (let* ((r (plist-get (cdr prj) :recursive))
+                (b (expand-file-name (file-name-as-directory
+                                      (plist-get (cdr prj) :base-directory))))
+                (x (or (plist-get (cdr prj) :base-extension) "org"))
+                (e (plist-get (cdr prj) :exclude))
+                (i (plist-get (cdr prj) :include))
+                (xm (concat "^" b (if r ".+" "[^/]+") "\\.\\(" x "\\)$")))
+           (when
+               (or
+                  (and
+                 i (member filename
+                           (mapcar
+                            (lambda (file) (expand-file-name file b))
+                            i)))
+                  (and
+                   (not (and e (string-match e filename)))
+                   (string-match xm filename)))
+             (setq project-name (car prj))
+             (throw 'p-found project-name))))))
     (when up
       (dolist (prj org-publish-project-alist)
        (if (member project-name (plist-get (cdr prj) :components))
@@ -436,7 +571,9 @@ PUB-DIR is the publishing directory."
        (setq export-buf-or-file
              (funcall (intern (concat "org-export-as-" format))
                       (plist-get plist :headline-levels)
-                      nil plist nil nil pub-dir))
+                      nil plist nil
+                      (plist-get plist :body-only)
+                      pub-dir))
        (when (and (bufferp export-buf-or-file)
                   (buffer-live-p export-buf-or-file))
          (set-buffer export-buf-or-file)
@@ -487,6 +624,24 @@ See `org-publish-org-to' to the list of arguments."
 See `org-publish-org-to' to the list of arguments."
   (org-publish-org-to "org" plist filename pub-dir))
 
+(defun org-publish-org-to-ascii (plist filename pub-dir)
+  "Publish an org file to ASCII.
+See `org-publish-org-to' to the list of arguments."
+  (org-publish-with-aux-preprocess-maybe
+    (org-publish-org-to "ascii" plist filename pub-dir)))
+
+(defun org-publish-org-to-latin1 (plist filename pub-dir)
+  "Publish an org file to Latin-1.
+See `org-publish-org-to' to the list of arguments."
+  (org-publish-with-aux-preprocess-maybe
+    (org-publish-org-to "latin1" plist filename pub-dir)))
+
+(defun org-publish-org-to-utf8 (plist filename pub-dir)
+  "Publish an org file to UTF-8.
+See `org-publish-org-to' to the list of arguments."
+  (org-publish-with-aux-preprocess-maybe
+    (org-publish-org-to "utf8" plist filename pub-dir)))
+
 (defun org-publish-attachment (plist filename pub-dir)
   "Publish a file with no transformation of any kind.
 See `org-publish-org-to' to the list of arguments."
@@ -502,30 +657,39 @@ See `org-publish-org-to' to the list of arguments."
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
 ;;; Publishing files, sets of files, and indices
 
-(defun org-publish-file (filename &optional project)
-  "Publish file FILENAME from PROJECT."
+(defun org-publish-file (filename &optional project no-cache)
+  "Publish file FILENAME from PROJECT.
+If NO-CACHE is not nil, do not initialize org-publish-cache and
+write it to disk.  This is needed, since this function is used to
+publish single files, when entire projects are published.
+See `org-publish-projects'."
   (let* ((project
          (or project
              (or (org-publish-get-project-from-filename filename)
-                 (if (y-or-n-p
-                      (format "%s is not in a project.  Re-read the list of projects files? "
-                              (abbreviate-file-name filename)))
-                     ;; If requested, re-initialize the list of projects files
-                     (progn (org-publish-initialize-files-alist t)
-                            (or (org-publish-get-project-from-filename filename)
-                                (error "File %s not part of any known project"
-                                       (abbreviate-file-name filename))))
-                   (error "Can't publish file outside of a project")))))
+                 (error "File %s not part of any known project"
+                        (abbreviate-file-name filename)))))
         (project-plist (cdr project))
-        (ftname (file-truename filename))
+        (ftname (expand-file-name filename))
         (publishing-function
          (or (plist-get project-plist :publishing-function)
              'org-publish-org-to-html))
-        (base-dir (file-name-as-directory
-                   (file-truename (plist-get project-plist :base-directory))))
-        (pub-dir (file-name-as-directory
-                  (file-truename (plist-get project-plist :publishing-directory))))
+        (base-dir
+         (file-name-as-directory
+          (expand-file-name
+           (or (plist-get project-plist :base-directory)
+               (error "Project %s does not have :base-directory defined"
+                      (car project))))))
+        (pub-dir
+         (file-name-as-directory
+          (file-truename
+           (or (plist-get project-plist :publishing-directory)
+               (error "Project %s does not have :publishing-directory defined"
+                      (car project))))))
         tmp-pub-dir)
+
+    (unless no-cache
+      (org-publish-initialize-cache (car project)))
+
     (setq tmp-pub-dir
          (file-name-directory
           (concat pub-dir
@@ -542,7 +706,8 @@ See `org-publish-org-to' to the list of arguments."
                                  tmp-pub-dir)
        (funcall publishing-function project-plist filename tmp-pub-dir)
        (org-publish-update-timestamp
-        filename pub-dir publishing-function)))))
+        filename pub-dir publishing-function)))
+    (unless no-cache (org-publish-write-cache-file))))
 
 (defun org-publish-projects (projects)
   "Publish all files belonging to the PROJECTS alist.
@@ -550,6 +715,8 @@ If :auto-sitemap is set, publish the sitemap too.
 If :makeindex is set, also produce a file theindex.org."
   (mapc
    (lambda (project)
+     ;; Each project uses it's own cache file:
+     (org-publish-initialize-cache (car project))
      (let*
         ((project-plist (cdr project))
          (exclude-regexp (plist-get project-plist :exclude))
@@ -558,25 +725,30 @@ If :makeindex is set, also produce a file theindex.org."
                                "sitemap.org"))
          (sitemap-function (or (plist-get project-plist :sitemap-function)
                                'org-publish-org-sitemap))
+         (org-sitemap-date-format (or (plist-get project-plist :sitemap-date-format)
+                                  org-publish-sitemap-date-format))
+         (org-sitemap-file-entry-format (or (plist-get project-plist :sitemap-file-entry-format)
+                                        org-publish-sitemap-file-entry-format))
          (preparation-function (plist-get project-plist :preparation-function))
          (completion-function (plist-get project-plist :completion-function))
          (files (org-publish-get-base-files project exclude-regexp)) file)
        (when preparation-function (run-hooks 'preparation-function))
        (if sitemap-p (funcall sitemap-function project sitemap-filename))
        (while (setq file (pop files))
-        (org-publish-file file project))
+        (org-publish-file file project t))
        (when (plist-get project-plist :makeindex)
-        (org-publish-index-generate-theindex.inc
+        (org-publish-index-generate-theindex
          (plist-get project-plist :base-directory))
         (org-publish-file (expand-file-name
                            "theindex.org"
                            (plist-get project-plist :base-directory))
-                          project))
-       (when completion-function (run-hooks 'completion-function))))
+                          project t))
+       (when completion-function (run-hooks 'completion-function))
+     (org-publish-write-cache-file)))
    (org-publish-expand-projects projects)))
 
 (defun org-publish-org-sitemap (project &optional sitemap-filename)
-  "Create an sitemap of pages in set defined by PROJECT.
+  "Create a sitemap of pages in set defined by PROJECT.
 Optionally set the filename of the sitemap with SITEMAP-FILENAME.
 Default for SITEMAP-FILENAME is 'sitemap.org'."
   (let* ((project-plist (cdr project))
@@ -591,6 +763,7 @@ Default for SITEMAP-FILENAME is 'sitemap.org'."
                          (concat "Sitemap for project " (car project))))
         (sitemap-style (or (plist-get project-plist :sitemap-style)
                          'tree))
+        (sitemap-sans-extension (plist-get project-plist :sitemap-sans-extension))
         (visiting (find-buffer-visiting sitemap-filename))
         (ifn (file-name-nondirectory sitemap-filename))
         file sitemap-buffer)
@@ -602,6 +775,8 @@ Default for SITEMAP-FILENAME is 'sitemap.org'."
        (let ((fn (file-name-nondirectory file))
              (link (file-relative-name file dir))
              (oldlocal localdir))
+         (when sitemap-sans-extension
+           (setq link (file-name-sans-extension link)))
          ;; sitemap shouldn't list itself
          (unless (equal (file-truename sitemap-filename)
                         (file-truename file))
@@ -632,29 +807,68 @@ Default for SITEMAP-FILENAME is 'sitemap.org'."
                      (setq indent-str (make-string
                                        (+ (length indent-str) 2) ?\ )))))))
            ;; This is common to 'flat and 'tree
-           (insert (concat indent-str " + [[file:" link "]["
-                           (org-publish-find-title file)
-                           "]]\n")))))
+           (let ((entry
+                  (org-publish-format-file-entry org-sitemap-file-entry-format
+                                                 file project-plist))
+                 (regexp "\\(.*\\)\\[\\([^][]+\\)\\]\\(.*\\)"))
+             (cond ((string-match-p regexp entry)
+                    (string-match regexp entry)
+                    (insert (concat indent-str " + " (match-string 1 entry)
+                                    "[[file:" link "]["
+                                    (match-string 2 entry)
+                                    "]]" (match-string 3 entry) "\n")))
+                   (t
+                    (insert (concat indent-str " + [[file:" link "]["
+                                    entry
+                                    "]]\n"))))))))
       (save-buffer))
     (or visiting (kill-buffer sitemap-buffer))))
 
-(defun org-publish-find-title (file)
-  "Find the title of file in project."
-  (let* ((visiting (find-buffer-visiting file))
-        (buffer (or visiting (find-file-noselect file)))
-        title)
-    (with-current-buffer buffer
-      (let* ((opt-plist (org-combine-plists (org-default-export-plist)
-                                           (org-infile-export-plist))))
-       (setq title
-             (or (plist-get opt-plist :title)
-                 (and (not
-                       (plist-get opt-plist :skip-before-1st-heading))
-                      (org-export-grab-title-from-buffer))
-                 (file-name-nondirectory (file-name-sans-extension file))))))
-    (unless visiting
-      (kill-buffer buffer))
-    title))
+(defun org-publish-format-file-entry (fmt file project-plist)
+  (format-spec fmt
+            `((?t . ,(org-publish-find-title file t))
+              (?d . ,(format-time-string org-sitemap-date-format
+                                         (org-publish-find-date file)))
+              (?a . ,(or (plist-get project-plist :author) user-full-name)))))
+
+(defun org-publish-find-title (file &optional reset)
+  "Find the title of FILE in project."
+  (or
+   (and (not reset) (org-publish-cache-get-file-property file :title nil t))
+   (let* ((visiting (find-buffer-visiting file))
+         (buffer (or visiting (find-file-noselect file)))
+         title)
+     (with-current-buffer buffer
+       (let* ((opt-plist (org-combine-plists (org-default-export-plist)
+                                            (org-infile-export-plist))))
+        (setq title
+              (or (plist-get opt-plist :title)
+                  (and (not
+                        (plist-get opt-plist :skip-before-1st-heading))
+                       (org-export-grab-title-from-buffer))
+                  (file-name-nondirectory (file-name-sans-extension file))))))
+     (unless visiting
+       (kill-buffer buffer))
+     (org-publish-cache-set-file-property file :title title)
+     title)))
+
+(defun org-publish-find-date (file)
+  "Find the date of FILE in project.
+If FILE provides a #+date keyword use it else use the file
+system's modification time.
+
+It returns time in `current-time' format."
+  (let ((visiting (find-buffer-visiting file)))
+    (save-excursion
+      (switch-to-buffer (or visiting (find-file-noselect file nil t)))
+      (let* ((plist (org-infile-export-plist))
+            (date (plist-get plist :date)))
+       (unless visiting
+         (kill-buffer (current-buffer)))
+       (if date
+           (org-time-string-to-time date)
+         (when (file-exists-p file)
+           (nth 5 (file-attributes file))))))))
 
 ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
 ;;; Interactive publishing functions
@@ -676,7 +890,12 @@ Default for SITEMAP-FILENAME is 'sitemap.org'."
   (save-window-excursion
     (let* ((org-publish-use-timestamps-flag
            (if force nil org-publish-use-timestamps-flag)))
-      (org-publish-projects (list project)))))
+      (org-publish-projects
+       (if (stringp project)
+          ;; If this function is called in batch mode,
+          ;; project is still a string here.
+          (list (assoc project org-publish-project-alist))
+          (list project))))))
 
 ;;;###autoload
 (defun org-publish-all (&optional force)
@@ -686,7 +905,6 @@ directory and force publishing all files."
   (interactive "P")
   (when force
     (org-publish-remove-all-timestamps))
-  (org-publish-initialize-files-alist force)
   (save-window-excursion
     (let ((org-publish-use-timestamps-flag
           (if force nil org-publish-use-timestamps-flag)))
@@ -698,7 +916,6 @@ directory and force publishing all files."
   "Publish the current file.
 With prefix argument, force publish the file."
   (interactive "P")
-  (org-publish-initialize-files-alist force)
   (save-window-excursion
     (let ((org-publish-use-timestamps-flag
           (if force nil org-publish-use-timestamps-flag)))
@@ -710,19 +927,18 @@ With prefix argument, force publish the file."
 With a prefix argument, force publishing of all files in
 the project."
   (interactive "P")
-  (org-publish-initialize-files-alist force)
   (save-window-excursion
     (let ((project (org-publish-get-project-from-filename (buffer-file-name) 'up))
          (org-publish-use-timestamps-flag
           (if force nil org-publish-use-timestamps-flag)))
       (if (not project)
          (error "File %s is not part of any known project" (buffer-file-name)))
+      ;; FIXME: force is not used here?
       (org-publish project))))
 
 
 ;;; Index generation
 
-(defvar backend) ; dynamically scoped
 (defun org-publish-aux-preprocess ()
   "Find index entries and write them to an .orgx file."
   (let ((case-fold-search t)
@@ -733,22 +949,25 @@ the project."
         (re-search-forward "^[ \t]*#\\+index:[ \t]*\\(.*?\\)[ \t]*$" nil t)
         (> (match-end 1) (match-beginning 1)))
       (setq entry (match-string 1))
-      (when (eq backend 'latex)
+      (when (eq org-export-current-backend 'latex)
        (replace-match (format "\\index{%s}" entry) t t))
       (save-excursion
-       (org-back-to-heading t)
+       (ignore-errors (org-back-to-heading t))
        (setq target (get-text-property (point) 'target))
        (setq target (or (cdr (assoc target org-export-preferred-target-alist))
                         (cdr (assoc target org-export-id-target-alist))
-                        target))
+                        target ""))
        (push (cons entry target) index)))
     (with-temp-file
-       (concat (file-name-sans-extension org-current-export-file) ".orgx")
+       (concat
+        (file-name-directory org-current-export-file) "."
+        (file-name-sans-extension
+         (file-name-nondirectory org-current-export-file)) ".orgx")
       (dolist (entry (nreverse index))
        (insert (format "INDEX: (%s) %s\n" (cdr entry) (car entry)))))))
 
-(defun org-publish-index-generate-theindex.inc (directory)
-  "Generate the index from all .orgx files in the current directory and below."
+(defun org-publish-index-generate-theindex (directory)
+  "Generate the index from all .orgx files in DIRECTORY."
   (require 'find-lisp)
   (let* ((fulldir (file-name-as-directory
                   (expand-file-name directory)))
@@ -760,10 +979,10 @@ the project."
                        full-files))
         (default-directory directory)
         index origfile buf target entry ibuffer
-        main last-main letter last-letter file sub link)
+        main last-main letter last-letter file sub link tgext)
     ;; `files' contains the list of relative file names
     (dolist (file files)
-      (setq origfile (substring file 0 -1))
+      (setq origfile (substring file 1 -1))
       (setq buf (find-file-noselect file))
       (with-current-buffer buf
        (goto-char (point-min))
@@ -774,13 +993,16 @@ the project."
       (kill-buffer buf))
     (setq index (sort index (lambda (a b) (string< (downcase (car a))
                                                   (downcase (car b))))))
-    (setq ibuffer (find-file-noselect (expand-file-name "theindex.inc" directory)))
+    (setq ibuffer (find-file-noselect (expand-file-name "theindex.org" directory)))
     (with-current-buffer ibuffer
       (erase-buffer)
       (insert "* Index\n")
       (setq last-letter nil)
       (dolist (idx index)
        (setq entry (car idx) file (nth 1 idx) target (nth 2 idx))
+       (if (and (stringp target) (string-match "\\S-" target))
+           (setq tgext (concat "::#" target))
+         (setq tgext ""))
        (setq letter (upcase (substring entry 0 1)))
        (when (not (equal letter last-letter))
          (insert "** " letter "\n")
@@ -792,26 +1014,172 @@ the project."
        (when (and main (not (equal main last-main)))
          (insert "   - " main "\n")
          (setq last-main main))
-       (setq link (concat "[[file:" file "::#" target "]"
+       (setq link (concat "[[file:" file tgext "]"
                           "[" (or sub entry) "]]"))
        (if (and main sub)
            (insert "     - " link "\n")
          (insert "   - " link "\n")))
       (save-buffer))
-    (kill-buffer ibuffer)
-
-    (let ((index-file (expand-file-name "theindex.org" directory)))
-      (unless (file-exists-p index-file)
-       (setq ibuffer (find-file-noselect index-file))
-       (with-current-buffer ibuffer
-         (erase-buffer)
-         (insert "\n\n#+include: \"theindex.inc\"\n\n")
-         (save-buffer))
-       (kill-buffer ibuffer)))))
+    (kill-buffer ibuffer)))
+
+;; Caching functions:
+
+(defun org-publish-write-cache-file (&optional free-cache)
+  "Write `org-publish-cache' to file.
+If FREE-CACHE, empty the cache."
+  (unless org-publish-cache
+    (error "%s" "`org-publish-write-cache-file' called, but no cache present"))
+
+  (let ((cache-file (org-publish-cache-get ":cache-file:")))
+    (unless cache-file
+      (error
+       "%s" "Cannot find cache-file name in `org-publish-write-cache-file'"))
+    (with-temp-file cache-file
+      (let ((print-level nil)
+           (print-length nil))
+       (insert "(setq org-publish-cache (make-hash-table :test 'equal :weakness nil :size 100))\n")
+       (maphash (lambda (k v)
+                  (insert
+                   (format (concat "(puthash %S "
+                                   (if (or (listp v) (symbolp v))
+                                       "'" "")
+                                   "%S org-publish-cache)\n") k v)))
+                org-publish-cache)))
+    (when free-cache (org-publish-reset-cache))))
+
+(defun org-publish-initialize-cache (project-name)
+  "Initialize the projects cache if not initialized yet and return it."
+
+  (unless project-name
+    (error "%s%s" "Cannot initialize `org-publish-cache' without projects name"
+          " in `org-publish-initialize-cache'"))
+
+  (unless (file-exists-p org-publish-timestamp-directory)
+    (make-directory org-publish-timestamp-directory t))
+  (if (not (file-directory-p org-publish-timestamp-directory))
+      (error "Org publish timestamp: %s is not a directory"
+            org-publish-timestamp-directory))
+
+  (unless (and org-publish-cache
+              (string= (org-publish-cache-get ":project:") project-name))
+    (let* ((cache-file (concat
+                       (expand-file-name org-publish-timestamp-directory)
+                       project-name
+                       ".cache"))
+          (cexists (file-exists-p cache-file)))
+
+      (when org-publish-cache
+       (org-publish-reset-cache))
+
+      (if cexists
+         (load-file cache-file)
+       (setq org-publish-cache
+             (make-hash-table :test 'equal :weakness nil :size 100))
+       (org-publish-cache-set ":project:" project-name)
+       (org-publish-cache-set ":cache-file:" cache-file))
+      (unless cexists (org-publish-write-cache-file nil))))
+  org-publish-cache)
+
+(defun org-publish-reset-cache ()
+  "Empty org-publish-cache and reset it nil."
+  (message "%s" "Resetting org-publish-cache")
+  (if (hash-table-p org-publish-cache)
+      (clrhash org-publish-cache))
+  (setq org-publish-cache nil))
+
+(defun org-publish-cache-file-needs-publishing (filename &optional pub-dir pub-func)
+  "Check the timestamp of the last publishing of FILENAME.
+Return `t', if the file needs publishing.  The function also
+checks if any included files have been more recently published,
+so that the file including them will be republished as well."
+  (unless org-publish-cache
+    (error "%s" "`org-publish-cache-file-needs-publishing' called, but no cache present"))
+  (let* ((key (org-publish-timestamp-filename filename pub-dir pub-func))
+        (pstamp (org-publish-cache-get key))
+        (visiting (find-buffer-visiting filename))
+        included-files-ctime buf)
+
+    (when (equal (file-name-extension filename) "org")
+      (setq buf (find-file (expand-file-name filename)))
+      (with-current-buffer buf
+       (goto-char (point-min))
+       (while (re-search-forward "^#\\+INCLUDE:[ \t]+\"?\\([^ \t\"]*\\)\"?[ \t]*.*$" nil t)
+         (let* ((included-file (expand-file-name (match-string 1))))
+           (add-to-list 'included-files-ctime
+                        (org-publish-cache-ctime-of-src included-file) t))))
+      ;; FIXME don't kill current buffer
+      (unless visiting (kill-buffer buf)))
+    (if (null pstamp)
+       t
+      (let ((ctime (org-publish-cache-ctime-of-src filename)))
+       (or (< pstamp ctime)
+           (when included-files-ctime
+             (not (null (delq nil (mapcar (lambda(ct) (< ctime ct))
+                                          included-files-ctime))))))))))
+
+(defun org-publish-cache-set-file-property (filename property value &optional project-name)
+  "Set the VALUE for a PROPERTY of file FILENAME in publishing cache to VALUE.
+Use cache file of PROJECT-NAME.  If the entry does not exist, it will be
+created.  Return VALUE."
+  ;; Evtl. load the requested cache file:
+  (if project-name (org-publish-initialize-cache project-name))
+  (let ((pl (org-publish-cache-get filename)))
+    (if pl
+       (progn
+         (plist-put pl property value)
+         value)
+      (org-publish-cache-get-file-property
+       filename property value nil project-name))))
+
+(defun org-publish-cache-get-file-property
+  (filename property &optional default no-create project-name)
+  "Return the value for a PROPERTY of file FILENAME in publishing cache.
+Use cache file of PROJECT-NAME. Return the value of that PROPERTY or
+DEFAULT, if the value does not yet exist.
+If the entry will be created, unless NO-CREATE is not nil."
+  ;; Evtl. load the requested cache file:
+  (if project-name (org-publish-initialize-cache project-name))
+  (let ((pl (org-publish-cache-get filename))
+       (retval nil))
+    (if pl
+       (if (plist-member pl property)
+           (setq retval (plist-get pl property))
+         (setq retval default))
+      ;; no pl yet:
+      (unless no-create
+       (org-publish-cache-set filename (list property default)))
+      (setq retval default))
+    retval))
+
+(defun org-publish-cache-get (key)
+  "Return the value stored in `org-publish-cache' for key KEY.
+Returns nil, if no value or nil is found, or the cache does not
+exist."
+  (unless org-publish-cache
+    (error "%s" "`org-publish-cache-get' called, but no cache present"))
+  (gethash key org-publish-cache))
+
+(defun org-publish-cache-set (key value)
+  "Store KEY VALUE pair in `org-publish-cache'.
+Returns value on success, else nil."
+  (unless org-publish-cache
+    (error "%s" "`org-publish-cache-set' called, but no cache present"))
+  (puthash key value org-publish-cache))
+
+(defun org-publish-cache-ctime-of-src (filename)
+  "Get the FILENAME ctime as an integer."
+  (let* ((symlink-maybe (or (file-symlink-p filename) filename))
+        (src-attr (file-attributes (if (file-name-absolute-p symlink-maybe)
+                                       symlink-maybe
+                                     (expand-file-name
+                                      symlink-maybe
+                                      (file-name-directory filename))))))
+    (+
+     (lsh (car (nth 5 src-attr)) 16)
+     (cadr (nth 5 src-attr)))))
 
 (provide 'org-publish)
 
 
-;; arch-tag: 72807f3c-8af0-4a6b-8dca-c3376eb25adb
 
 ;;; org-publish.el ends here